MWC 2018
2018
Computex
IFA 2018
Бывшие сотрудники OpenAI дали показания в федеральном суде Окленда (штат Калифорния, США) по иску Илона Маска (Elon Musk) к компании. Оба свидетеля заявили, что погоня OpenAI за коммерциализацией ИИ-продуктов подорвала обязательства стартапа по безопасности, а генеральный директор Сэм Альтман (Sam Altman) систематически вводил совет директоров в заблуждение.
Источник изображения: Levart_Photographer / unsplash.com
Рози Кэмпбелл (Rosie Campbell), работавшая в команде по подготовке к сильному ИИ (AGI) с 2021 по 2024 год, сообщила что за это время OpenAI из исследовательской организации превратилась в коммерческую. Её команду расформировали, а группу Super Alignment, занимавшуюся контролем соблюдения ИИ человеческих ценностей, тоже закрыли. Кэмпбелл привела конкретный пример: Microsoft запустила версию GPT-4 в Индии через Bing без проверки Совета по безопасности развёртывания (DSB) OpenAI. На перекрёстном допросе адвокаты OpenAI добились от Кэмпбелл признания, что, по её «предположительному мнению», подход OpenAI к безопасности всё же лучше, чем у xAI — ИИ-компании Маска, которую SpaceX поглотила в начале 2026 года.
Развёртывание GPT-4 в Индии стало одним из тревожных сигналов, которые подтолкнули совет директоров к кратковременному увольнению Альтмана в 2023 году. Перед этим на стиль руководства генерального директора жаловались сотрудники, в том числе бывший главный научный сотрудник Илья Суцкевер (Ilya Sutskever) и технический директор Мира Мурати (Mira Murati). По их словам, Альтман избегал конфликтов. Таша Макколи (Tasha McCauley), на тот момент член совета, рассказала суду, что Альтман вводил совет в заблуждение. Например, он солгал другому члену совета о намерениях Макколи уволить Хелен Тонер (Helen Toner), опубликовавшую аналитическую записку с критикой политики безопасности OpenAI, не предупредил совет о запуске ChatGPT в открытый доступ и не раскрывал возможные конфликты интересов. «У нас не было уверенности, что передаваемая нам информация позволяла принимать взвешенные решения», — заявила Макколи.
Увольнение Альтмана, впрочем, совпало с предложением о выкупе акций у сотрудников. Персонал OpenAI поддержал Альтмана, а Microsoft стала добиваться восстановления прежнего порядка — в итоге совет отступил, и выступавшие против Альтмана заговорщики подали в отставку. Неспособность совета директоров повлиять на коммерческую структуру подкрепила тезис Маска о том, что превращение OpenAI из исследовательского проекта в одну из крупнейших частных компаний мира нарушило негласный договор её основателей. Дэвид Шайзер (David Schizer), бывший декан юридического факультета Колумбийского университета и приглашённый эксперт со стороны Маска, подчеркнул: «OpenAI заявляла, что безопасность — ключевая часть её миссии, и что безопасность будет приоритетнее прибыли. Если что-то должно пройти проверку на безопасность, она должна состояться. Суть в процедуре».
Макколи заявила, что провалы управления в OpenAI должны стать доводом в пользу государственного регулирования ИИ: «Если всё сводится к тому, что решения принимает один генеральный директор, а на кону общественные интересы, — это крайне неудачная конструкция».
Источник:
