«Не выдумывай»: тестировщики macOS 15.1 обнаружили подсказки, призванные удерживать ИИ в рамках дозволенного

В недавно выпущенной бета-версии macOS Sequoia тестировщики обнаружили текстовые файлы JSON в открытом доступе, содержащие инструкции для искусственного интеллекта Apple Intelligence. Эти файлы, найденные в системной папке, включают ряд необычных условий для обеспечения точности и полезности действий генеративного ИИ.

Среди найденных 29 файлов было обнаружено множество системных подсказок, формулировки которых напоминают попытки объяснить ребёнку, как себя вести в новой ситуации. Например, как пишет ресурс Ars Technica, одна из подсказок гласит: «Вы — полезный помощник по составлению почтовых сообщений и можете помочь в определении актуальных вопросов в полученном письме и составить короткий ответ». Другие инструкции содержат указания, как формулировать ответы на сообщения.

Особый интерес представляют промпты (prompt), направленные на предотвращение так называемых «галлюцинаций» искусственного интеллекта, то есть ложных и неточных утверждений. Среди них такие фразы, как «Не галлюцинируй» и «Не выдумывай». Эксперты отмечают, что наличие подобных инструкций не удивительно, учитывая опыт других компаний в области генеративного ИИ. Например, Microsoft столкнулась с проблемами при запуске в 2023 году своего чат-бота Bing Chat на базе ChatGPT, который мог давать непредсказуемые, агрессивные или даже угрожающие ответы, в зависимости от того, с каким вопросом обращались к нему пользователи.

Интерес к подсказкам Apple Intelligence заключается не столько в их существовании, сколько в возможности изучать инструкции, применяемые компанией для контроля ответов ИИ. Если эти файлы останутся доступными в будущих версиях macOS, это позволит отслеживать изменения в подходе Apple к своему искусственному интеллекту.

Ожидается, что функции Apple Intelligence станут доступны для публичного бета-тестирования этой осенью, но они не войдут в первоначальные релизы iOS 18.0, iPadOS 18.0 и macOS 15.0. Некоторые возможности, такие как транскрипция телефонных звонков и голосовой почты, а также резюмирование текста, будут доступны на ранних этапах. Другие функции, включая новую версию Siri, могут появиться только в следующем году.