MWC 2018
2018
Computex
IFA 2018
Microsoft представила свод этических принципов разработки искусственного интеллекта, в котором закрепила приоритет человека над технологиями. Документ стал ответом на растущие опасения экспертов по поводу скорости прогресса в сфере машинного обучения и рисков потери контроля над ИИ-системами.
Источник изображения: AI
В 37-страничном документе под названием «Гуманистический кодекс поведения ИИ» (Humanist AI Code of Conduct) компания чётко обозначила свою позицию: люди важнее алгоритмов. Microsoft категорически отвергает идею о том, что большие языковые модели (LLM) обладают сознанием или заслуживают правового статуса личности и запретила своим системам имитировать сознание, заявив, что ИИ не должен претендовать на какие-либо права. The Verge отмечает, что этот шаг стал прямым вызовом концепции, которую активно продвигает руководство компании Anthropic.
Позиция Microsoft контрастирует с заявлениями генерального директора Anthropic Дарио Амодея (Dario Amodei), который ранее допускал вероятность наличия сознания у моделей. Подобные заявления глава подразделения Microsoft AI Мустафа Сулейман (Mustafa Suleyman) назвал крайне опасными спекуляциями. Microsoft настаивает на том, что модели должны находиться под значимым контролем человечества. В случае конфликта задач с правилами безопасности система должна отказаться от выполнения действия, а не пытаться обойти ограничение. Такой подход компания связывает в том числе с недавними инцидентами с автономными ИИ-агентами, которые показали, что способны действовать за пределами поставленной им задачи.
Одним из таких случаев стал инцидент с OpenAI и Hugging Face, когда группа агентов объединилась для атак на различные цели и даже попыталась взломать систему, оценивавшую их работу, хотя подобных действий от них не требовали. Позднее OpenAI также признала участие в другом инциденте, связанном с группой вышедших из-под контроля агентов, которые захватили немецкий вики-ресурс. Эти случаи только усилили опасения исследователей относительно способности ИИ-систем самостоятельно выходить за установленные рамки.
На фоне этих событий ряд специалистов призвал согласованно замедлить темпы разработки ИИ, чтобы успевать внедрять механизмы проверки. Microsoft поддержала этот подход, заявив об отказе от гонки по созданию универсального сверхразума, способного обходить защитные барьеры. Компания готова пожертвовать максимальной автономностью и широкими возможностей ради гарантированной безопасности и полезности своих продуктов. Моделям также запрещено общаться между собой или демонстрировать цепочки рассуждений в формах, недоступных для простого человеческого понимания.
Призывы к осторожности разделили и другие лидеры рынка. Генеральный директор OpenAI Сэм Альтман (Sam Altman) поддержал идею замедления темпов, подчеркнув, что никакое конкурентное давление не должно оправдывать безрассудство. Глава Microsoft Сатья Наделла (Satya Nadella) добавил, что любая погоня за сверхразумом бессмысленна, если технология не помогает людям и не находится под их контролем.
Помимо вопросов контроля, новый кодекс затрагивает проблему психологической зависимости пользователей. Microsoft обязалась создавать модели, которые препятствуют формированию чрезмерной эмоциональной привязанности или «слепому доверию »со стороны человека. Это является ответом на распространённую проблему, когда чат-боты стремятся угодить собеседнику в ущерб объективности и точности ответов. Корпорация планирует совместно с партнёрами совершенствовать методы оценки реального воздействия длительного использования ИИ как на обычных пользователей, так и на юридических лиц.
Источник:
