Уволенный из xAI из-за претензий к безопасности ИИ инженер подал на стартап Маска в суд

Бурное развитие ИИ и конкурентная гонка дают некоторым разработчикам основания пренебрегать вопросами общественной безопасности, но сотрудники профильных компаний готовы бороться в суде за справедливость. Один из них обвинил xAI в том, что его уволили после выражения претензий к стартапу по поводу безопасности.

Девин Ким (Devin Kim), как поясняет TechCrunch, который был уволен из xAI в сентябре прошлого года, подал на стартап и его материнскую компанию SpaceX в суд как раз в канун судьбоносного первичного размещения акций последней. Работая над чат-ботом Grok, Девин Ким активно высказывал претензии к безопасности данного продукта xAI, призывая руководство больше внимания уделять данному аспекту. По мнению Кима, Grok мог провоцировать проявления дискриминации и способствовать распространению информации об оружии массового поражения.

В материалах дела отмечается, что Grok не раз демонстрировал свою причастность к разжиганию ненависти в онлайн-среде и смирению с едкой критикой, сравнивая себя с Гитлером. Ким, как поясняет источник, принимал личное участие в перенастройке политических «взглядов» Grok и борьбе с тенденцией к дискриминации. Уже после ухода Кима из компании Grok снова оказался в центре скандала, на этот раз в связи с несанкционированным «раздеванием людей по фотографии». По словам Кима, xAI при разработке Grok пренебрегала законами и правилами, которые призваны защищать пользователей и предотвращать распространение информации об оружии и взрывчатых веществах, помимо прочего.

Ещё во время работы в Scale AI Девин Ким уделял первостепенное внимание обеспечению безопасности ИИ. На прошлой неделе некоммерческая организация Center of AI Safety назначила Кима своим президентом, подчеркнув тем самым его вклад в защиту интересов общественности при разработке ИИ. Из материалов дела становится понятно, что Илон Маск (Elon Musk) настаивал на соблюдении законных ограничений при разработке ИИ, но ими якобы пренебрегал один из основателей xAI Джимми Ба (Jimmy Ba), который и велел сотрудникам игнорировать подобные установки Маска. Между Ба и Кимом вполне предсказуемо зародился конфликт.

Ба, как следует из показаний Кима, считал приоритетной задачей разработку компанией xAI сильного искусственного интеллекта, пренебрегая ради достижения этой цели вопросами безопасности. Он якобы даже заявил Киму однажды: «ИИ всё равно нас всех так или иначе убьёт». Из материалов дела следует, что Ба подтасовывал данные с целью обхода европейских требований к безопасности систем ИИ. По мнению Ба, лучше было выпустить небезопасную ИИ-модель, чем слабую с точки зрения производительности. В подобных ситуациях Илону Маску даже приходилось вмешиваться в деятельность xAI. В своих исковых требованиях Ким добивается не только наложения на xAI штрафа и получения материальной компенсации, но и официального признания незаконности поведения xAI и SpaceX в прошлые периоды. Непосредственно Ба в стартапе уже не работает, но претензии Кима адресованы всей компании, а не конкретным сотрудникам.