MWC 2018
2018
Computex
IFA 2018
Скоро исполнится ровно неделя с того момента, как компания Anthropic по требованию властей США отключила всех пользователей от ИИ-моделей Mythos 5 и Fable 5 из соображений национальной безопасности. Ограничить доступ к ним только для иностранцев Anthropic не смогла, поэтому пострадали все пользователи. Эксперты утверждают, что снять блокировку будет практически невозможно.
Источник изображения: Anthropic
Дело в том, как поясняет Wired со ссылкой на знакомые с содержанием переговоров источники, что власти США требуют от Anthropic навсегда исключить «лазейки», которые позволяют снять ограничения на взаимодействие пользователей с наиболее современными ИИ-моделями этого стартапа. В частности, разработчики блокируют возможность поиска информации для создания оружия массового поражения в общедоступных версиях моделей, но специалистам АНБ якобы удалось доказать, что определённое сочетание запросов к ИИ-моделям Anthropic позволяет снять эти ограничения в случае с той же Fable 5, которая была задумана в качестве общедоступной и безопасной версии Mythos 5.
Сейчас американские чиновники считают, что Anthropic должна исключить подобные возможности обхода блокировок, и только после этого передовые ИИ-модели компании можно будет вернуть в общий доступ. Подобную защиту компания, по их мнению, должна будет предусмотреть для всех своих моделей, а также проводить тестирование на их устойчивость к взлому самостоятельно, предоставляя регулярные отчёты американскому правительству. Эксперты в сфере кибербезопасности сходятся во мнении, что любые ограничения, предусматриваемые Anthropic в этой ситуации, будут работать лишь до определённой поры, поскольку со временем будут появляться более совершенные инструменты для обхода существующих блокировок. Исключить подобные злоупотребления раз и навсегда попросту невозможно, но власти США требуют от Anthropic именно этого. Если позиция американских чиновников не будет пересмотрена, ИИ-модели этого стартапа могут надолго остаться под запретом.
Источник:
