Соучредитель OpenAI и недавно уволенный генеральный директор Сэм Альтман возвращается в офис с гостевым пропуском «в первый и последний раз», пытаясь договориться о своем восстановлении в должности
Одна из самых важных компаний в мире, похоже, вот-вот рухнет и потеряет всю свою команду после странной цепочки событий, начинающейся с необъяснимого увольнения генерального директора Сэма Альтмана. Будущее искусственного интеллекта – и, возможно, самого человечества – висит на волоске.
Что такое OpenAI?
Как рассказывает Илон Маск в недавней биографии Уолтера Айзексона, OpenAI изначально был основан как способ застраховаться от опасностей вымирания, связанных с созданием сверхразумного искусственного интеллекта и контролем над ним безжалостных, ориентированных на прибыль капиталистов - в частности, соучредителя Google Ларри Пейджа, бывшего близкого друга Маска.
Пейдж, по словам Маска, продемонстрировал «бесцеремонное» отношение к потенциальным угрозам, исходящим от искусственного общего интеллекта (AGI), зайдя так далеко, что назвал Маска «видосистом» за то, что он позволил заботам о судьбе человечества замедлить развитие интеллекта следующего уровня. И когда Маск не смог убедить основателя и генерального директора Deepmind Демиса Хассабиса не позволять Google приобретать его компанию – ведущую компанию в области искусственного интеллекта на тот момент, – он объединился с тогдашним президентом Y Combinator Сэмом Альтманом, чтобы создать конкурирующую организацию.
OpenAI была основана в 2015 году, в основном на пожертвования Маска (хотя подробности быстро становятся неясными), как некоммерческая организация, заявленной целью которой было «продвигать цифровой интеллект таким образом, который, скорее всего, принесет пользу человечеству в целом, не ограничиваясь необходимостью получения финансовой отдачи". Поскольку наши исследования не связаны финансовыми обязательствами, мы можем лучше сосредоточиться на положительном воздействии на человека.»
Одним из первых нанятых был главный научный сотрудник Илья Суцкевер, звездный исследователь искусственного интеллекта, которого, по словам Маска, он смог отбить у Google и Deepmind в том, что он описал как «одну из самых сложных битв за подбор персонала, в которых я когда-либо участвовал, но... краеугольный камень успеха OpenAI.»
Маск покинул правление OpenAI в 2018 году, частично из-за потенциального конфликта интересов с разработкой Tesla собственной технологии искусственного интеллекта, а частично из-за его разочарования медленным прогрессом OpenAI, после того как правление отклонило его предложение самому взять на себя единоличное руководство.
Затем, в 2019 году, OpenAI создала необычную структуру, в рамках которой она сейчас работает: OpenAI, inc остается некоммерческой исследовательской организацией и единственным контролирующим акционером другой организации: OpenAI Global LLC. Последняя описывается как «закрытая» коммерческая компания. Такая настройка позволила OpenAI привлечь инвестиции, необходимые для ускорения дорогостоящих, требующих больших вычислительных затрат исследований, которые она проводила, и делать такие вещи, как предоставление опционов на акции для привлечения и удержания сотрудников. Теоретически инвесторы могли бы вернуть во много раз больше того, что они вложили, но доходность была бы ограничена определенным уровнем.
Некоммерческая организация останется у руля, при этом большинству членов правления будет запрещено владеть акциями некоммерческого ООО, а ее миссия работать в наилучших интересах человечества останется неизменной. Коммерческая дочерняя компания бизнеса могла бы использовать силу капитализма, чтобы убедиться, что компания не осталась в стороне.
Хотя Маск был ошеломлен переменами, результаты были впечатляющими. Инвесторы, включая Microsoft на сумму 11 миллиардов долларов США, активизировались и добились невероятного прогресса, включая коммерческий выпуск ChatGPT, который быстро стал самым быстрорастущим приложением в истории и сверхъестественным пониманием того, куда движется эта массово разрушительная технология.
Что такого особенного в безопасности искусственного интеллекта?
Ранее мы подробно рассматривали экзистенциальные риски AGI, но вкратце: в то время как современные магистры, такие как ChatGPT, уже удивительно компетентны в написании текстов, программировании, понимании контекста, планировании, общении и даже визуальном восприятии мира с помощью фотографий и видео, они все еще неуклюжие и ненадежные – и абсолютные новички по сравнению с тем, что грядет.
Но даже сейчас они работают с головокружительной цифровой скоростью. Возможно, GPT (я надеюсь) пишет не так хорошо, как я, но при правильном подходе он может выпускать статьи о технологиях за считанные секунды, на что у меня ушли бы часы.
Итак, как только мы достигнем точки AGI, когда подобная модель теоретически сможет научиться выполнять любую задачу так же хорошо, как человек, они будут делать это намного быстрее, чем мы, и значительно дешевле. Ценность человеческого интеллекта упадет до нуля. На Земле едва ли найдется работа или отрасль, которые не были бы полностью перевернуты с ног на голову.
В конечном счете, ожидается, что они достигнут сверхразума – смогут выполнять любую задачу лучше, чем любой человек, включая создание и разработку собственных систем искусственного интеллекта со скоростью, которая, как ожидается, ускорится настолько быстро, что приведет к «сингулярности», в которой технологический прогресс пойдет более или менее вертикально вверх по графику.
К этому моменту вы говорите о непостижимом искусственном разуме, умнее любого человека и обладающем всеми знаниями человечества на кончиках пальцев, думающем и действующем в миллионы раз быстрее, чем мы можем. Мы не будем шимпанзе рядом со сверхразумным искусственным интеллектом; мы будем растениями, бессильными остановить достаточно продвинутую систему или даже понять, что она делает, пока это не будет сделано.
Большинство исследователей признают, что в настоящее время нет способа убедиться в том, что сверхразумный ИИ «согласован» с интересами человека. И уж точно нет способа настроить человеческий интеллект таким образом, чтобы люди просто не брали эти инструменты, не обучали их и не использовали для совершения худших вещей, которые только можно вообразить.
Какими бы глупыми ни казались эти идеи, когда вы в шестой раз пытаетесь заставить ChatGPT написать что-то полезное, это риски, от которых OpenAI был основан, чтобы защитить человечество. В умелых руках, при правильной структуре стимулирования искусственный интеллект мог бы привести нас к земле обетованной после дефицита и решить все наши проблемы. В чужих руках или при неправильных структурах... Что ж, может случиться почти все, что угодно - вплоть до худших опасений писателей–фантастов и намного превосходящее их.
Так что же, черт возьми, происходит?
В пятницу некоммерческий совет OpenAI в составе главного научного сотрудника Ильи Суцкевера, генерального директора Quora Адама Д'Анджело, предпринимателя Таши Макколи и Хелен Тонер, директора по стратегии Центра безопасности и новых технологий Джорджтаунского университета, уволил соучредителя Сэма Альтмана с поста генерального директора по телефону Google Meet. Председатель и президент Грег Брокман также был выведен из состава правления, после чего он покинул компанию.
В сообщении в блоге «Переход руководства» правление не уточнило, почему оно уволило Альтмана, за исключением того, что сообщило: «Уход мистера Альтмана последовал за процессом совещательной проверки правлением, которое пришло к выводу, что он не был последовательно откровенным в своих контактах с правлением, препятствуя его способности осуществлять свои полномочия. обязанности. Правление больше не уверено в его способности продолжать руководить OpenAI».
Правление, похоже, смягчилось под давлением генерального директора Microsoft Сатьи Наделлы, и Альтман и Брокман вернулись в офис OpenAI в субботу, чтобы обсудить свое возвращение в зависимости от отстранения членов правления. Правление, как сообщается, согласилось, но не выполнило требования к согласованному сроку.
Сотрудники начали бунтовать, в открытом письме требуя отставки директоров. Сообщается, что это письмо с угрозой массового увольнения подписали более 735 человек из примерно 770 сотрудников компании.
Итак, одна из интерпретаций событий такова: правление OpenAI решило, что существует огромный риск в том, как Альтман продвигался к ускорению и коммерциализации разработки GPT и других моделей компании. Риск для самого человечества, который правление стремилось умерить, назначив ответственным кого-то, кто нажимал бы на тормоза, а не на газ. И действительно, согласно их уставу, это именно то, для чего была создана структура компании.
Но это решение, если такая весьма благотворительная интерпретация действительно имеет место, может оказаться невероятно недальновидным. Альтман и Брокман немедленно согласились перейти на работу в Microsoft, где у них будут практически неограниченные ресурсы и деньги для развития AGI без сдерживающего их некоммерческого совета директоров.
Сатья Наделла пообещал, что новое подразделение Microsoft по искусственному интеллекту задаст «новый темп инновациям», не слишком тонко призвав сотрудников OpenAI «работать быстрее», которые, возможно, захотят покинуть компанию, учитывая нового генерального директора «работать медленнее». Почти вся команда OpenAI, похоже, может присоединиться к Альтману и Брокману, и Microsoft ждет предложений о работе для каждого отдельного члена команды, в то время как остальная часть Кремниевой долины облизывается при виде шанса привлечь массу талантов от ведущей компании в области искусственного интеллекта. Правление OpenAI вскоре может оказаться правлением из ничего.
Со многих точек зрения, это абсолютная катастрофа. Если предполагалось, что OpenAI будут «хорошими парнями», направляющими потенциально очень опасную технологию с самого начала, что ж, вы не сможете этого сделать без команды и включенного освещения. Не сумев полностью объяснить свое решение, правление явно проделало ужасную работу, убедив команду в том, что оно поступает правильно.
Кроме того, есть те, кто привык полагаться на компанию. Разработчики и владельцы бизнеса, которые сделали ставку на продукты на базе GPT, были совершенно ошеломлены и понятия не будут иметь, чего ожидать в будущем.
И хотя может показаться, что Microsoft идет на поправку, получая неограниченный доступ к некоторым из лучших умов в области искусственного интеллекта, картина не так проста. Если новое подразделение искусственного интеллекта под руководством Альтмана и Брокмана продвинется вперед – а многие полагают, что далеко это не зайдет, – потребуется время, чтобы выпустить продукт, конкурирующий с GPT-4. Как знает любой, кто в последнее время следил за ИИ, недели в этом пространстве могут ощущаться как годы.
Кроме того, небольшое разделение может быть приятным; Microsoft не приходилось брать на себя ответственность, когда пользователи находили способы заставить свои инструменты на основе GPT сказать что-то расистское или оскорбительное. И давайте не будем забывать о 11 миллиардах долларов, которые компания уже пообещала вложить в OpenAI, который быстро начинает походить на пожар в мусорном контейнере. Если он продолжит гореть, Microsoft будет привязана к мертвому или умирающему GPT до тех пор, пока не запустит свои собственные модели.
Есть сообщения о том, что Альтман и Брокман все еще могут быть возвращены на свои посты, и для этого потребуется сменить только двух членов правления, а другие говорят, что пара может покинуть Microsoft и начать новое предприятие; проблем с привлечением капитала, конечно, не возникнет.
Что бы ни происходило, такое ощущение, что у событий этого уик-энда есть "до" и "после". Возможно, мы никогда не получим реального объяснения увольнению Альтмана – хотя, если на карту поставлено будущее человечества, вы могли бы подумать, что пресс-релиз или интервью, вероятно, были бы вежливыми.
Источник:OpenAI
