MWC 2018
2018
Computex
IFA 2018
Основатель и генеральный директор Meta✴ Platforms Марк Цукерберг (Mark Zuckerberg) в споре о необходимости добровольного замедления развития ИИ ради безопасности человечества принял сторону противников этой инициативы. Он заявил, что компании подходят к созданию ИИ-моделей достаточно ответственно, чтобы самостоятельно обеспечивать безопасность, а ещё этому способствует высокая конкуренция на рынке.
Источник изображения: Nvidia
Как пояснил Цукерберг в публикации на страницах социальной сети X, каждая ИИ-лаборатория обладает достаточной ответственностью и сознательностью, чтобы развивать свои модели с той скоростью, которая обеспечивает необходимый уровень безопасности. Кроме того, компании способны сами принимать меры, которые для этого требуются. В этом смысле Цукерберг в какой-то мере выразил солидарность со своим коллегой из Nvidia Дженсеном Хуангом (Jensen Huang). Возглавляющие OpenAI, Anthropic и SpaceX представители отрасли примкнули к противоположному лагерю, и уже некоторое время ведут переговоры на соответствующую тему, если верить публикациям последних нескольких дней.
Президент США Дональд Трамп (Donald Trump) высказался против необходимости замедлять инновации, сославшись не только на наличие достаточных мер по обеспечению безопасности, но и на угрозу со стороны Китая, который может воспользоваться замедлением американских разработок в сфере ИИ для своего превращения в мирового лидера.
«Доверие и соответствие правилам быстро становятся самыми важными возможностями, которые будут отличать агентов и модели. Любая лаборатория, которая не фокусируется на регулировании, быстро окажется в числе отстающих», — заявил Марк Цукерберг. Причинение вреда своими моделями, по его словам, просто не отвечает интересам разработчиков, поскольку они в этом случае понесут серьёзную ответственность. Сама Meta✴ ранее была вынуждена задержать выход агента Muse AI, чтобы усилить его безопасность. «Мы не стали обращаться к кому-то другому, прежде чем заняться этим. Мы просто сделали это, как часть нашей ежедневной работы, потому что это очевидным образом было правильным шагом для людей и для нас самих», — объяснил мотивацию компании Марк Цукерберг.
Он добавил, что Meta✴ значительную часть своих вычислительных ресурсов направляет на решение ежедневных задач конечных пользователей, а не сосредотачивается на создании самосовершенствующихся ИИ-систем. Подразделение Superintelligence Labs в составе компании уже привлекает к оценке своих разработок ряд сторонних экспертов, и подобным образом могут поступать и другие участники рынка.
Попутно инициатива сторонников «замедления ИИ» удостоилась критических замечаний со стороны главы Комиссии по торговле США (FTC) Эндрю Фергюсона (Andrew Ferguson), который назвал подозрительной активность ИИ-компаний по лоббированию послаблений в сфере антимонопольного регулирования при одновременном продвижении идеи введения новых ограничений. Считается, что глава Anthropic Дарио Амодеи (Dario Amodei) на прошлой неделе обратился в это ведомство с просьбой разрешить конкурирующим компаниям в этой отрасли договариваться о замедлении разработки ИИ из соображений безопасности.
Источник:
