Сегодня 18 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

«Не выдумывай»: тестировщики macOS 15.1 обнаружили подсказки, призванные удерживать ИИ в рамках дозволенного

В недавно выпущенной бета-версии macOS Sequoia тестировщики обнаружили текстовые файлы JSON в открытом доступе, содержащие инструкции для искусственного интеллекта Apple Intelligence. Эти файлы, найденные в системной папке, включают ряд необычных условий для обеспечения точности и полезности действий генеративного ИИ.

 Источник изображения: Apple

Источник изображения: Apple

Среди найденных 29 файлов было обнаружено множество системных подсказок, формулировки которых напоминают попытки объяснить ребёнку, как себя вести в новой ситуации. Например, как пишет ресурс Ars Technica, одна из подсказок гласит: «Вы — полезный помощник по составлению почтовых сообщений и можете помочь в определении актуальных вопросов в полученном письме и составить короткий ответ». Другие инструкции содержат указания, как формулировать ответы на сообщения.

Особый интерес представляют промпты (prompt), направленные на предотвращение так называемых «галлюцинаций» искусственного интеллекта, то есть ложных и неточных утверждений. Среди них такие фразы, как «Не галлюцинируй» и «Не выдумывай». Эксперты отмечают, что наличие подобных инструкций не удивительно, учитывая опыт других компаний в области генеративного ИИ. Например, Microsoft столкнулась с проблемами при запуске в 2023 году своего чат-бота Bing Chat на базе ChatGPT, который мог давать непредсказуемые, агрессивные или даже угрожающие ответы, в зависимости от того, с каким вопросом обращались к нему пользователи.

Интерес к подсказкам Apple Intelligence заключается не столько в их существовании, сколько в возможности изучать инструкции, применяемые компанией для контроля ответов ИИ. Если эти файлы останутся доступными в будущих версиях macOS, это позволит отслеживать изменения в подходе Apple к своему искусственному интеллекту.

Ожидается, что функции Apple Intelligence станут доступны для публичного бета-тестирования этой осенью, но они не войдут в первоначальные релизы iOS 18.0, iPadOS 18.0 и macOS 15.0. Некоторые возможности, такие как транскрипция телефонных звонков и голосовой почты, а также резюмирование текста, будут доступны на ранних этапах. Другие функции, включая новую версию Siri, могут появиться только в следующем году.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Студия ветерана Blizzard анонсировала динамичный изометрический боевик Arkheron — смесь Diablo и королевской битвы 6 ч.
Даже авторы сценария The Wolf Among Us 2 не знают, что происходит с игрой 7 ч.
Nothing анонсировала OS 4.0 — интерфейс стал проще, а камера умнее 9 ч.
Paradox добавила возмутившие фанатов платные кланы в стандартное издание Vampire: The Masquerade — Bloodlines 2 и анонсировала два сюжетных DLC 10 ч.
Жертвы утечки данных Facebook через Cambridge Analytica начали получать выплаты от Цукерберга 10 ч.
В мессенджере Max начинаются «открытые» тесты каналов — создавать их разрешат блогерам из реестра РКН 10 ч.
В России выплатили первую зарплату в цифровых рублях 12 ч.
На официальном сайте Like a Dragon засветилась Yakuza Kiwami 3 — Ryu Ga Gotoku Studio готовит анонс ремейка Yakuza 3 12 ч.
Rutube объяснил: пиратский контент на хостинг закачивают пользователи, но Netflix пока не жалуется 12 ч.
Microsoft обратилась к ИИ от Anthropic для Visual Studio Code — OpenAI больше не в почёте 13 ч.
Alibaba удалось разработать ИИ-чип T-Head PPU, сопоставимый по характеристикам с Nvidia H20 28 мин.
Новая статья: Обзор «золотого» блока питания GamerStorm PQ1000G (PQA00G-FD) с разъемом 12V-2x6 6 ч.
Глава NVIDIA разочарован запретом Китая на покупку RTX Pro 6000D, но все вопросы будут решаться на высшем уровне 6 ч.
Журналисты протестировали Apple Watch Series 11, Ultra 3 и SE 3 — всем нравится младшая модель 6 ч.
CoreWeave инвестирует ещё £1,5 млрд в британские ИИ ЦОД 7 ч.
Российский специалист по ремонту ПК-оборудования VIK-on выпустил DDR5-тестер для ноутбуков 7 ч.
Garmin выпустила смарт-часы Venu 4 — улучшенные функции, светодиодный фонарик и цена от $550 7 ч.
iPhone 17 Pro обласкали в первых обзорах: «значительное обновление, вызывающее восторг» 7 ч.
СМИ и блогеры протестировали iPhone Air: «ультратонкий смартфон не без компромиссов» 7 ч.
Вышли первые обзоры iPhone 17: «лучший вариант базовой модели за последние годы» 7 ч.