Сегодня 14 октября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Не выдумывай»: тестировщики macOS 15.1 обнаружили подсказки, призванные удерживать ИИ в рамках дозволенного

В недавно выпущенной бета-версии macOS Sequoia тестировщики обнаружили текстовые файлы JSON в открытом доступе, содержащие инструкции для искусственного интеллекта Apple Intelligence. Эти файлы, найденные в системной папке, включают ряд необычных условий для обеспечения точности и полезности действий генеративного ИИ.

 Источник изображения: Apple

Источник изображения: Apple

Среди найденных 29 файлов было обнаружено множество системных подсказок, формулировки которых напоминают попытки объяснить ребёнку, как себя вести в новой ситуации. Например, как пишет ресурс Ars Technica, одна из подсказок гласит: «Вы — полезный помощник по составлению почтовых сообщений и можете помочь в определении актуальных вопросов в полученном письме и составить короткий ответ». Другие инструкции содержат указания, как формулировать ответы на сообщения.

Особый интерес представляют промпты (prompt), направленные на предотвращение так называемых «галлюцинаций» искусственного интеллекта, то есть ложных и неточных утверждений. Среди них такие фразы, как «Не галлюцинируй» и «Не выдумывай». Эксперты отмечают, что наличие подобных инструкций не удивительно, учитывая опыт других компаний в области генеративного ИИ. Например, Microsoft столкнулась с проблемами при запуске в 2023 году своего чат-бота Bing Chat на базе ChatGPT, который мог давать непредсказуемые, агрессивные или даже угрожающие ответы, в зависимости от того, с каким вопросом обращались к нему пользователи.

Интерес к подсказкам Apple Intelligence заключается не столько в их существовании, сколько в возможности изучать инструкции, применяемые компанией для контроля ответов ИИ. Если эти файлы останутся доступными в будущих версиях macOS, это позволит отслеживать изменения в подходе Apple к своему искусственному интеллекту.

Ожидается, что функции Apple Intelligence станут доступны для публичного бета-тестирования этой осенью, но они не войдут в первоначальные релизы iOS 18.0, iPadOS 18.0 и macOS 15.0. Некоторые возможности, такие как транскрипция телефонных звонков и голосовой почты, а также резюмирование текста, будут доступны на ранних этапах. Другие функции, включая новую версию Siri, могут появиться только в следующем году.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Новый патч для Hollow Knight: Silksong ослабил лучшее умение в игре и устранил геймплейные лазейки 5 мин.
Microsoft представила первый ИИ-генератор изображений собственной разработки — MAI-Image-1 42 мин.
«Базис» и MIND Software представляют первое в России коробочное HCI-решение для ускорения цифровой трансформации бизнеса 2 ч.
«Базис» и MIND Software представляют первое в России коробочное HCI-решение для ускорения цифровой трансформации бизнеса 2 ч.
Devolver объявила дату выхода Forestrike — тактического кунг-фу-экшена, где каждая смерть приближает к победе в бою, который ещё не начался 4 ч.
В популярнейшем архиваторе 7-Zip обнаружены две уязвимости, позволяющие удалённо взламывать ПК 13 ч.
Microsoft затруднит доступ к режиму Internet Explorer в Edge из-за атак хакеров — уязвимости останутся без патчей 13 ч.
Painkiller, «Герои Меча и Магии», новый «Мор» и многое другое: в Steam стартовал фестиваль «Играм быть» с тысячами демоверсий 14 ч.
В поиске Google теперь можно скрывать рекламу — но посмотреть её всё равно придётся 14 ч.
Apple TV+ превратился в просто Apple TV — стриминговый сервис ждёт «яркая новая идентичность» 14 ч.