«Это кризис доверия»: глава Anthropic объяснил негативное отношение людей к ИИ

Разработчики передовых ИИ-моделей, базирующиеся в США, нередко выступают с предостережениями относительно их применения, и с этой точки зрения глава Anthropic Дарио Амодеи (Dario Amodei) часто транслирует весьма пессимистичные тезисы. Сам он при этом считает, что просто предупреждает человечество о рисках, а негативное восприятие ИИ обществом вызвано в большей степени «кризисом доверия».

Сам генеральный директор Anthropic, как подчёркивает TechCrunch, признаёт существование подобных предубеждений в обществе и считает это большой проблемой, но не может согласиться с инвестором Гэвином Бейкером (Gavin Baker), который обвиняет руководство стартапа в формировании чрезмерно пессимистичного восприятия ИИ окружающими. «Я считаю, что фундаментально это кризис доверия. Я думаю, что обычные люди не доверяют компаниям, властям или технологической отрасли и всегда просто считают, что мы готовим какой-то новый способ их обмануть», — пояснил Амодеи. Он добавил, что подобное настороженное отношение в обществе формировалось десятилетиями, и в случае с ИИ оно лишь обретает своё очередное проявление.

Единственное, в чём глава Anthropic мог бы согласиться с критиками отрасли ИИ — это невыполнение обещаний в сфере предоставления всеобщих благ: «Это действительно наша вина, и думаю, что именно на этом направлении критики нужно сосредоточиться вместо обсуждения текстов посланий и маркетинга». Например, обещания победить раковые заболевания с помощью ИИ, по мнению Амодеи, в большей степени являются клише, чем мотивирующим высказыванием. Изменить отношение людей к ИИ в этом случае можно, лишь действительно продемонстрировав его способность лечить рак.

Не согласен Амодеи и со взглядами либерально настроенных экспертов на процесс регулирования выхода ИИ-моделей властями. Всё не сводится лишь к концентрации власти в руках тех, кто управляет выпуском ИИ-моделей. «Многие люди за пределами этого пузыря считают, что регулирование ограничивает власть корпораций и приносит пользу простым людям», — возразил он. Свои предложения в сфере регулирования ИИ-отрасли Anthropic старается формулировать так, чтобы сдерживать экспансию крупных передовых компаний ради прогресса более мелких конкурентов.

Амодеи убеждён, что ИИ является технологией, которая приводит к концентрации власти. Распространение моделей с открытыми весами отчасти решает эту проблему, но не может считаться панацеей, поскольку концентрация власти смещается в сторону тех, кто имеет самые крупные вычислительные ресурсы. В отрасли должны, по его словам, появиться «правила дорожного движения», которые будут учитывать риски в области безопасности, ограничивать влияние крупных компаний, а также оставлять место на рынке для моделей с открытыми весами, одновременно принимая в расчёт сопутствующие риски.