Сэм Альтман и кликуши апокалипсиса

Статистика поисковых запросов, порожденных смещением Сэма Альтмана с должности гендиректора OpenAI, демонстрирует, что обывательский интерес непривычно вышел за рамки традиционной чуши (сколько денег у имярек, кто его жена, дети, любовницы, какова сексуальная ориентация) и сконцентрировался на теме для взрослых: какие секреты прячет от мира корпорация OpenAI, раз дело дошло до увольнения руководящих работников?

Приступая по заданию редакции к изучению нюансов, связанных со скандальным увольнением Сэмюэла Альтмана, я вообразить не мог, какого накала достиг в сфере LLM (Large Language Model, Большой языковой модели) конфликт интересов, концепций, идеологий, религиозных переживаний и мифотворчества. Допускаю, что все эти напряжения и противоречия присутствовали в сюжете давно (вероятно, уже изначально), однако раньше их надежно скрывало очарование технологией, которое испытывали и сами разработчики, и общество.

Откуда взялась столь высокая концентрация эмоций на таком, казалось бы, маленьком клочке экономической жизни? Вопрос почти риторический: по самым скромным оценкам, бизнес, связанный с LLM, в ближайшее десятилетия превратится в самую доходную сферу мировой экономики. На фоне LLM всё остальное будет смотреться карликом: от нефтегаза до Большой Фармы.

Специфика ситуации в том, что бизнес на LLM представлен сегодня по большей части в потенции. В качестве иллюстрации: выручка частной компании OpenAI в 2022 году составила 28 млн долларов США (в основном от продажи доступа к ChatGPT). При этом чистый годовой убыток за тот же год — минус 540 млн долларов (!). Но знаете, какова оценочная стоимость OpenAI при годовом убытке в полмиллиарда долларов? 86 млрд!

Важное примечание: цифра эта была актуальной до увольнения Сэма Альтмана. В ближайшее время с высокой вероятностью потенциальная ценность покинет OpenAI и последует за человеком, который почти единолично обеспечил компании феноменальное финансирование: усилиями Альтмана один только Microsoft и только в 2023 году вложил в исследовательскую деятельность OpenAI 10 млрд долларов.

Эти невероятные цифры позволяют нам перефразировать ключевой вопрос сюжета: что такого невероятного должно стоять на карте, какие идеи, разработки, этические принципы, чтобы четыре члена правления OpenAI решились уволить человека, неотделимого от финансовых достижений компании? Что есть такого в технологиях и бизнесе LLM, что стоит больше 86 млрд?

Формат реплики, к сожалению, не позволяет обстоятельно развернуть перед читателем полный спектр гипотез (от голимой конспирологии до голого прагматизма), проливающих свет на причины увольнения Альтмана. Постараюсь тем не менее описать хотя бы в общих чертах ключевые идеи и назвать персонажей, их продвигающих. Сделать это непременно нужно, дабы избежать однобоких трактовок и тем более не стать жертвой конспирологического бреда, который сегодня доминирует в досужих интерпретациях сюжета с увольнением.

Начнем с основных действующих лиц:

• Сэм Альтман (Samuel Harris Altman), 38 лет, генеральный директор OpenAI;
• Илья Суцкевер (Илья Ефимович Суцкевер), 36 лет, соучредитель OpenAI, член правления, главный научный сотрудник компании;
• Грег Брокман (Greg Brockman), 34 года, соучредитель, президент и технический директор OpenAI;
• Адам Ди Анджело (Adam D'Angelo), 39 лет, член правления OpenAI. Соучредитель и генеральный директор Quora;
• Таша Макколи (Tasha McCauley), 40 лет, член правления OpenAI. Соучредитель и бывший генеральный директор компаний Fellow Robots и GeoSim Systems;
• Хелен Тонер (Helen Toner), предположительно 31 год (информация о частной жизни Тонер отсутствует в открытых источниках), член правления OpenAI. Директор по стратегии и грантам на фундаментальные исследования Джорджтаунского центра безопасности и новейших технологий (CSET);
• Сатья Наделла (Satya Narayana Nadella), 56 лет, председатель правления и генеральный директор Microsoft.

Напомним читателю фабулу:

• в четверг вечером, 16 ноября 2023 года, Илья Суцкевер приглашает Сэмюэла Альтмана на встречу в виртуальном формате Google Meet для обсуждения «важных вопросов»;
• в назначенное время (полдень следующего дня) Альтман открывает сессию видеоконференции и встречает там, помимо Суцкевера, всех членов правления за исключением Грега Брокмана. Илья Суцкевер сообщает о решении правления снять Сэма Альтмана с должности генерального директора. Встреча продолжалась 19 минут;
• Сатье Наделле сообщают о грядущем увольнении Сэма Альтмана за пять минут до начала видеоконференции членов правления OpenAI;
• в 12:23, сразу после окончания встречи с Сэмом Альтманом, Илья Суцкевер приглашает на новую сессию Google Meet Грега Брокмана и сообщает ему об увольнении гендиректора. Там же Грегу сообщают о решении правления вывести самого Брокмана из совета директоров, хотя за ним и сохраняется должность президента OpenAI. Через несколько часов Брокман заявляет о намерении оставить и эту должность;
• вслед за Альтманом и Брокманом решение уйти из OpenAI принимают: директор по исследованиям Якуб Пачоцки (Jakub Pachocki), руководитель отдела по оценкам рисков ИИ Александр Мадри (Aleksander Madry), а также исследователь, стоявший у истоков OpenAI, Шимон Сидор (Szymon Sidor);
• ни один из инвесторов OpenAI не был заблаговременно предупрежден о судьбоносных решениях правления компании.

Описанные события внешне похожи на заурядный корпоративный переворот, однако есть одно обстоятельство, которое обессмысливает любые скоропалительные сравнения. В деловой истории Америки не было прецедента, когда правление отправляло в отставку генерального директора, которого сами же члены правления единодушно признают главным бенефактором финансового благополучия компании. Тем более немыслимо, чтобы правление, главной обязанностью которого по определению является забота об акционерах и инвесторах, не просто лишало компанию своего денежного благодетеля, но и принимало решение за спиной акционеров и инвесторов, даже не поставив их в известность.

Полагаю, есть резон привести краткую биографическую справку о Сэме Альтмане, дабы у читателя не возникало сомнений в ключевой роли этого персонажа для финансового успеха OpenAI.

Российскому читателю проще всего составить портрет Сэма Альтмана апофатически (с помощью доказательства через отрицание): вообразите персонажа, который совмещает в себе абсолютно все самые ненавистные и самые одиозные качества для системы «традиционных ценностей». Представили? Отлично. Вот это и есть Сэм Альтман.

Итак: американец, еврей, вегетарианец, недоучка (бросил Стэнфорд после первого курса). Дальше — хуже: спонсор демократической партии и избирательной кампании Джо Байдена; почетный гость на сходках адских иллюминатов Бильдербергского клуба; на короткой ноге с Эмманюэлем Макроном, Риши Сунаком, Педро Санчесом, Олафом Шольцем, Ицхаком Герцогом и Урсулой фон дер Ляйен. И вишня на торте: открытый гей, лауреат премии GLAAD (Альянса геев и лесбиянок против диффамации), врученной в 2017 году за продвижение идей ЛГБТ-равенства в американском IT-бизнесе.

Для тех, кто еще недостаточно подкован идеологически и отказывается догадываться по биографии, откуда Сэм Альтман нашел деньги для родной компании OpenAI, которую он учредил в декабре 2015 года совместно с Грегом Брокманом, Питером Тилем и Илоном Маском, приведу дополнительную информацию. С 2011 по 2020 год наш герой верховодил компанией под названием Y Combinator.

Y Combinator — это крупнейший в Америке инкубатор высокотехнологичных стартапов. Всего Y Combinator предоставил путевку в жизнь 4 тысячам компаний, в том числе Airbnb, Dropbox, Reddit, Stripe, Twitch, Instacart, Coinbase, Cruise, DoorDash.

Иными словами, Сэм Альтман не просто лично знаком практически со всеми ключевыми игроками американского и мирового IT-бизнеса (а заодно — политического и финансового истеблишмента), но и персонально принимал участие в раскрутке и запуске компаний, входящих сегодня в IT-элиту.

Полагаю, теперь проясняется сцена, в которой Сэм Альтман просит Microsoft дать денег на развитие перспективного бизнеса LLM компании OpenAI, а Сатья Наделла не находит в себе сил, чтобы отказать. В результате компания Альтмана получает из Редмонда в 2019 году 1 млрд, а в 2023-м — еще 10 млрд долларов.

Возвращаемся к ключевому событию нашего повествования: члены правления знали, что золотой дождь на OpenAI проливает длинная вереница знакомых и приятелей Сэма Альтмана, бывшего президента Y Combinator, и всё равно его уволили. Почему?

Прежде чем ответить на этот вопрос, решим загадку попроще: как технически возможно, чтобы правление компании собственноручно выпроваживало из курятника козырную несушку, поставляющую золотые яйца?

Несуразица объясняется легко: OpenAI — не стандартная компания, для которой и в самом деле немыслима описанная ситуация, а многоуровневая. Головная структура называется OpenAI Inc., и это некоммерческая организация, которая в принципе не преследует целей извлечения прибыли. OpenAI Inc. целиком владеет другим юрлицом — уже коммерческой OpenAI GP LLC, которая, в свою очередь, контролирует OpenAI Global LLC — компанию с ограниченной прибылью, где для акционеров и инвесторов заранее оговорен потолок возможной доходности.

Именно OpenAI Global LLC является структурой, генерирующей деньги для всей корпоративной конструкции. Именно в OpenAI Global LLC по приглашению Сэма Альтмана Microsoft принесла свои 11 млрд долларов в обмен на весьма скромную миноритарную долю.

Головной компанией OpenAI Inc. руководит то самое правление, которое уволило Сэма Альтмана, потому что обладало всеми необходимыми полномочиями. Во-первых, OpenAI Inc. — некоммерческая структура по определению, и, соответственно, в обязанности правления не входит забота об интересах акционеров и инвесторов. Во-вторых, члены правления зарабатывают себе на хлеб с маслом в других местах и никакой коммерческой выгоды из работы на благо OpenAI Inc. не извлекают.

Совокупность этих обстоятельств и позволила правлению роскошь не размениваться на мелочи вроде 86 млрд долларов, которые с большой долей вероятности уйдут вместе с Альтманом.

Мы снова вернулись к ключевому вопросу, однако делаем это, хочется верить, на новом качественном витке: так ради какой ценности, которая дороже 86 млрд, правление уволило Сэма Альтмана?

Вы не поверите, но Сэма Альтмана уволили из-за… тех самых денег, которые гендиректор регулярно добывал для OpenAI! Оказывается, существуют некие принципы, которые в глазах ключевых фигур вроде ведущего разработчика OpenAI Ильи Суцкевера важнее миллиардов долларов.

Революцию LLM сопровождает сплетение интересов, концепций, идеологий, религиозных переживаний и мифотворчества. Именно эти нематериальные сущности и исполнили с биографией Сэма Альтмана неожиданный кульбит.

Ниже я предлагаю читателям импровизированную библиотеку идей, которую составил на ходу и буквально в режиме реального времени, поэтому прошу не судить строго. Тем не менее надеюсь, что из предложенного материала читатель сумеет самостоятельно сложить осмысленный пазл, объясняющий реальные причины событий как минимум лучше, чем популярные конспирологические версии.

Кстати, о конспирологии. Дабы не создавать ненужного саспенса, предлагаю с нее и начать. Я насчитал две версии, хотя наверняка сегодня их намного больше.

Конспирологическая версия #1 лежала на поверхности, поэтому твиттерные адепты теории заговора развернули ее в первые часы после публичного объявления об отставке Альтмана. Идея проста: Сэм Альтман сам подговорил членов правления инсценировать его отставку! Поскольку с финансовой точки зрения демарш смотрелся безумием, можно было ожидать, что возмущенные инвесторы окажут давление и потребуют незамедлительно восстановить гендиректора в должности. Альтман слегка пожеманится, но потом согласится при условии реструктуризации OpenAI с целью превращения компании из частично некоммерческой в полностью коммерческую. При этом сам Альтман должен будет получить контрольный пакет акций.

Забавно, что уже через пару часов после пресс-релиза об отставке поползли слухи, что члены правления под давлением инвесторов начали переговоры с Альтманом и Брокманом об их возвращении. Скоро, однако, члены правления тихо самовыпилились из социальных сетей и даже перестали отвечать на телефонные звонки. Через сутки Илья Суцкевер выступил с заявлением, что решение об увольнении пересмотру не подлежит, а сам Альтман с чувством явного удовлетворения принял предложение продолжить трудовую биографию в Microsoft.

Конспирологическая версия #2 более витиевата и оттого еще более конспирологична. Ее запустил в оборот Карлос Перез (Carlos E. Perez), очень назойливый написатель книг, популяризирующих почти божественные возможности AGI (Artificial General Intellect, Общий искусственный интеллект). Гипотеза такая: 11 ноября OpenAI представила новую модель LLM, которая реализует доселе неведомый алгоритм, связанный с архитектурой Retrieval Augment Generation (RAG, Генерации поисковых дополнений). Новый уникальный алгоритм позволяет GPT самостоятельно и быстро находить информацию, которой нет в исходных данных, подаваемых на входные узлы нейросетевой модели. Иными словами, OpenAI совершила первый практический шаг к самоавторизующемуся разуму, т. е. к Сверхинтеллекту. Очевидно, что правление компании, стоящее на страже этики ИИ, не могло допустить, чтобы Альтман отправил столь важное открытие в свободное коммерческое плавание, и потому отодвинуло гендиректора от корпоративного штурвала.

Первая конспирологическая версия, на мой взгляд, слишком мелковата для амбиций Сэма Альтмана и явно выдает грезы коммивояжера о теплом супчике, доставленном прямиком из Парижа. Вторая версия вполне мотивирована в плане столкновения идей, однако сильно упрощает механику жизни, превращая членов правления OpenAI в гротескных марионеток commedia dell’arte. Такое упрощение опять неизбежно ведет к «супчику», что неудивительно: любая конспирология — фантазии об устройстве общества, рождающиеся в головах тех членов общества, которые бесконечно далеки от рычагов реальной власти.

Вместо того чтобы конспиративно домысливать причинно-следственные связи в истории с увольнением и внедряться в головной мозг членов правления со своими догадками, предлагаю пойти более конструктивным путем: рассмотреть ключевые идеи и концепции, которые с первого дня сопровождали революцию LLM/AGI. Такой подход позволит нам как минимум оставаться в объективном поле, поскольку в одном можно не сомневаться: какая-то из перечисленных ниже идей прямо или косвенно вдохновила членов правления на принятие непростого решения об устранении Золотой Антилопы.

Идеи не существуют сами по себе, поэтому логично начать с заинтересованных сторон, вовлеченных в революцию искусственного интеллекта. У нас есть четыре ключевые группы акторов:

• разработчики и ученые, непосредственно закладывающие фундамент теории и практики LLM/AGI;
• государство и его структуры, озабоченные тем же, чем всегда и везде: тотальным контролем над любым начинанием своих подданных;
• частные корпорации, заинтересованные, опять-таки всегда и везде, в извлечении максимально возможной прибыли;
• частные предприниматели и менеджеры, одержимые по жизни единственной манией — строительством персональной успешной карьеры.

У каждой группы акторов — собственные интересы и цели, которые могут в определенные моменты совпадать либо, напротив, расходиться. Это приводит к периодически заключаемым союзам одних действующих лиц против других. Важно понимать, что союзы эти лабильны, неустойчивы и постоянно меняются вместе со внешними обстоятельствами.

Лабильность союзов между акторами органично дополняется лабильностью идей, которые в разное время могут вынашивать разные деятели внутри одной группы либо разных групп. Скажем, на определенных этапах государство может разделять идеи, которые изначально зародились в среде научных работников, и использовать эти идеи для достижения контроля над частными корпорациями. В другой момент разработчики LLM могут энергично объединяться с менеджерами или заключать союз с предпринимателями для противодействия контролю как со стороны государства, так и со стороны частных корпораций. И так далее.

С учетом описанной лабильности идеи, постоянно присутствующие в революции LLM/AGI, сводятся к следующим категориям.

1. Искусственный интеллект — это высшее достижение человеческого разума и науки, поэтому необходимо устранить любые препятствия, стоящие на пути свободного развития технологий LLM/AGI. В том числе попытки замедления прогресса в исследованиях Сверхинтеллекта. Сторонники такого подхода известны как accelerationists, адепты ускорения.

2. Искусственный интеллект — совершенно неизведанная территория, априори чреватая рисками для человечества, вплоть до полной его экстерминации. Лозунг сторонников таких идей: AI will kill us all (ИИ нас всех похоронит). Соответственно, отношение к технологиям LLM/AGI передается простым действием: полный запрет любых исследований по данному направлению. Как минимум до того времени, когда человечество получит неоспоримые доказательства своей способности контролировать ситуацию. Сторонников этих идей величают doomers, кликушами апокалипсиса.

3. Искусственный интеллект — это чудесный подарок, который сделала нам наука, однако поспешность в любом деле ничего, кроме вреда, принести не может. Оптимального результата мы добьемся только в том случае, если эволюция технологий LLM/AGI будет замедлена до уровня, обеспечивающего комфортное осмысление каждого последовательного этапа развития. Сторонники такого подхода известны как decels, замедлители.

4. Ключ к успеху — это концентрация внимания на безопасности технологий LLM/AGI. Если мы разработаем алгоритмы, исключающие любую возможность для ИИ нанести вред человеку и обществу, мы сможем беспрепятственно развивать новые технологии в любом темпе. Столь взвешенный подход демонстрируют safety advocates, сторонники полной безопасности.

5. Искусственный интеллект — это по-прежнему лишь «компьютерное железо» + программное обеспечение, созданные человеком. По этой причине человек обязан оставаться хозяином ситуации и жестко контролировать эволюцию LLM/AGI. Этот контроль, однако, ни в коем случае нельзя доверить государству, ученым или коммерсантам. Контролировать должны исключительно индивиды, продвинутые в плане модернистской этики. Таковыми являются только последователи effective altruism.

Теория эффективного альтруизма заслуживает отдельного разговора уже потому, что занимает сегодня ключевое место в мировоззрении американского «поколения Z» (не путайте с российским Z-фетишем!). К тому же именно идеи эффективного альтруизма, на мой взгляд, сыграли первую скрипку в истории с увольнением Сэма Альтмана.

В условиях цейтнота предлагаю читателям составить первое впечатление об этом удивительном выверте современной этики по реплике, произнесенной одним из отцов эффективного альтруизма Уильямом Макаскиллом на публичной дискуссии “Effective Altruism: A Better Way to Lead an Ethical Life”. Предлагая решение парадокса о том, что правильно делать — спасать из горящего дома ребенка или картину Пикассо, Макаскилл сказал, что эффективный альтруист однозначно будет спасать картину, потому что ее потом можно выгодно продать, а вырученные деньжищи пустить на полезную благотворительность.

6. Наконец, последняя категория идей, задействованных в революции LLM/AGI, представлена сторонниками либертарианства и криптоанархии, которые просеивают все без исключения аспекты бытия через сито священной трилеммы: свобода — децентрализация — инклюзивность. В расширенном контексте информационных технологий либертарианская идея представлена концепцией effective accelerationism (e/acc, эффективное ускорение — термин создан с явным намеком на отмежевание от эффективного альтруизма, дискредитированного криптоаферистом Сэмом Бэнкманом-Фридом). Ключевая идея e/acc: «В эпоху технологий инновации и потенциал капитализма должны использоваться по максимуму для достижения радикальных социальных изменений, даже если это означает полное разрушение существующего общественного строя».

В контексте AGI либертарианская идея e/acc характеризуется полным отказом от контроля над развитием технологий с чьей бы то ни было стороны; полным открытием компьютерного кода нейросетевых моделей; абсолютным доступом всех желающих к технологиям и продуктам; гарантированным отсутствием точек уязвимости, порожденных концентрацией вычислительных мощностей в руках частных корпораций или, того хуже, государственных структур. В плане иллюстрации лабильности идей в технологическом мире приведу лишь один пример: едва ли не самым ярким представителем e/acc является Марк Андриссен — соучредитель крупнейшего венчурного фонда Andreessen Horowitz, инвестирующего в IT-компании. Андриссен, как читатель догадывается, человек явно далекий от шифропанков и криптоанархии.

Вооружившись идеологически, мы готовы разобраться с конкретными участниками драмы OpenAI, каждый из которых отстаивал ту или иную идеологию в борьбе за будущее искусственного интеллекта.

Сэмюэл Альтман, будучи феноменально разносторонней личностью, ловко совмещает участие одновременно в двух лагерях: частно-корпоративном (лоббируя интересы Microsoft в OpenAI) и государственном (поддерживая симуляцию «крайней озабоченности рисками» бесконтрольной эволюции AGI, которую чиновники демонстрируют на международных симпозиумах вроде прошедшего в начале ноября в Великобритании AI Safety Summit). В плане идеологии Альтман явно принадлежит к лагерю decels — «замедлителей», поскольку только такая тактика позволяет сконцентрировать развитие технологий в руках избранного числа корпораций, имеющих возможность извлекать максимальную прибыль в обмен на государственный контроль.

Илья Суцкевер, будучи ключевой фигурой исследований, проводимых OpenAI в области AGI (проект Superalignment), однозначно является safety advocate — сторонником обеспечения полной безопасности при взаимодействии человека с Суперинтеллектом. Показательно, что контроль за эволюцией AGI в представлении Ильи Суцкевера должен осуществляться не государством или коммерческими структурами, а самими разработчиками и учеными, которые лучше остальных знают предмет собственных научных изысканий. Очевидно, что в данной картине мира не находится места для меркантильных интересов Сэма Альтмана и стоящих за его спиной корпораций.

Член правления OpenAI Адам Ди Анджело наверняка голосовал за увольнение Сэма Альтмана, прикрываясь какой-то возвышенной идеей из вышеперечисленного списка, однако слишком уж откровенный конфликт интересов делает избыточными дальнейшие вопросы. Ди Анджело — соучредитель и генеральный директор Quora, а у Quora есть собственный LLM-движок Poe, который напрямую конкурирует с продуктами OpenAI и Microsoft. Увольнение Альтмана однозначно подрывает коммерческую мощь OpenAI — достаточное основание для голосования в рамках логики корпоративной целесообразности.

С интерпретацией мотивов Таши Макколи и Хелен Тонер сложностей тоже не возникает: обе дамы являются активистками движения эффективных альтруистов, поэтому отстранение капиталиста-флибустьера от контроля за перспективными разработками в области AGI — святая обязанность. Спасение картины Пикассо — слишком большая ответственность, чтобы размениваться на моральные частности.

В заключение предлагаю читателям навести мостик от частной истории с увольнением Сэма Альтмана к общему состоянию революции LLM в конце ноября 2023 года. Связующим звеном от частного к общему выступают государство как актор и либертарианцы как носители идеи.

Государство определило свои позиции еще минувшим летом, а именно: всеми правдами и неправдами добиться ограничения бесконтрольных исследований в области AGI и сконцентрировать всю вычислительную мощь в рамках дюжины доверенных и надежных частных корпораций. Google и Microsoft вполне достойны, чтобы занять лучшие места в государственном партере. Главные деятели государственного произвола сегодня — это Джо Байден (в силу возраста — номинально), Камала Харрис (полноценно) и Риши Сунак (полноценно). Инструмент продвижения повестки дня — международные конференции, которые уже запланированы на годы вперед с периодичностью раз в шесть месяцев. Задача: выработать ограничительные резолюции и пролоббировать их утверждение в максимально большем числе государств и международных институтов.

Либертарианцы и криптоанархисты, в отличие от государства, максимально приближены к яблоку раздора (поскольку их идеи разделяет большее число самих разработчиков LLM/AGI), поэтому реагируют с беспрецедентной скоростью и эффективностью на любую смену декораций на сцене. В качестве примера: уже на следующий день после увольнения Сэма Альтмана была анонсирована Shoggoth — децентрализованная анонимная Р2Р-криптосеть для публикаций и распространения открытого кода моделей LLM, репозиториев, исследовательских работ и массивов данных (datasets). Задача Shoggoth — не допустить концентрации информации и продуктов в руках избранных, будь то государственные структуры или частные корпорации.

Как видите, на всякое действие в мире совершенных технологий тут же находится эффективное противодействие. Такой паритет служит гарантом того, что LLM/AGI всегда будет обслуживать весь род человеческий, а не интересы избранных групп.