Пройдёт не менее десяти лет, прежде чем ИИ-агенты действительно начнут работать — Андрей Карпатый

Выступая в одном из подкастов на прошлой неделе, один из основателей OpenAI Андрей Карпатый (Andrej Karpathy) признался, что функциональные ИИ-агенты начнут реально работать примерно через десять лет. Стремительное развитие ИИ само по себе не гарантирует быстрых результатов, и участникам рынка, а также пользователям необходимо запастись терпением.

В современном состоянии ИИ-агенты, по словам Карпатого, весьма далеки от совершенства: «Они просто не работают. Они недостаточно умны, недостаточно мультимодальны, они не могут использовать компьютер и делать прочие вещи. Они не могут обучаться непрерывно. Вы не можете просто сказать им что-то, чтобы они это запомнили. Они отстают в когнитивных способностях, и это просто не работает». По мнению сооснователя OpenAI, пройдёт не менее десяти лет, прежде чем все эти недостатки будут устранены.

Агенты являются одной из самых обсуждаемых тем в сфере искусственного интеллекта, подчёркивает Business Insider. Многие инвесторы называют текущий год «годом агента». В общем случае, под агентом подразумевается виртуальный помощник, способный самостоятельно выполнять задания: анализировать сложные проблемы, составлять планы и предпринимать действия без дополнительного взаимодействия с пользователем.

Карпатый на страницах социальной сети X добавил, что его критика отрасли вызвана стремлением преувеличить возможности имеющихся инструментов относительно реальности. «Отрасль живёт в будущем, в котором полностью автономные сущности параллельно взаимодействуют друг с другом для написания кода, а люди при этом бесполезны», — заявил один из основателей OpenAI. Он, по его собственному признанию, в такой реальности жить не готов, поскольку считает, что люди и ИИ должны содействовать друг другу при написании программного кода и выполнении заданий.

Если описать комментарии Карпатого простыми словами, он хотел бы иметь возможность убедиться, что ИИ создаёт корректный программный код, не слишком увлекаясь допущениями и во всех сложных случаях советуется с человеком. Последний должен расти в профессиональном плане и совершенствоваться вместе с ИИ, а не довольствоваться ролью поддержания в работоспособном состоянии «гор кода», отметил Карпатый.

Он также заявил, что проблема при создании не требующих вмешательства человека агентов заключается в том, что низкопробный контент, генерируемый ИИ, становится повсеместным, а люди — бесполезными. Прочие представители отрасли также выражают озабоченность стремлением некоторых пользователей слишком сильно полагаться на ИИ. По словам директора по развитию ScaleAI Квинтина Ау (Quintin Au), большие языковые модели сейчас при выполнении одного действия с вероятностью 20 % совершают ошибку. Если агенту требуется выполнить пять действий в рамках одного задания, шансы на корректное выполнение каждого не превышают 32 %.

Андрей Карпатый при этом призывает не считать его ИИ-скептиком. По его словам, его внутренние графики в пять или десять раз пессимистичнее самых амбициозных комментариев представителей отрасли, но они всё равно более оптимистичны по сравнению с экспертами, полностью отрицающими ИИ.