Руководство Стэнфордского университета (США) сообщило об инциденте в области кибербезопасности, с которой учебное заведение столкнулось в прошлом году. Системы учебного заведения подверглись атаке вируса-вымогателя Akira, который оставался незамеченным в течение более чем четырёх месяцев.

Источник изображения: Gerd Altmann / pixabay.com

В конце октября 2023 года хакерская группировка Akira поместила Стэнфордский университет на «доску позора» своего сайта, а руководство учебного заведения впоследствии опубликовало заявление, в котором сообщило, что расследует инцидент, но не упомянуло вирус-вымогатель. Теперь стало известно, что в результате инцидента пострадали персональные данные 27 000 человек, которые получили об этом официальные уведомления.

Вторжение в системы произошло 12 мая 2023 года, основной целью злоумышленников стал сегмент Департамента общественной безопасности университета. Но руководству Стэнфорда стало известно о вторжении лишь 27 сентября, говорится в документах, поданных в Генпрокуратуру штата Мэн. Пояснений по вопросу, почему потребовалось так много времени на обнаружение вторжения, и находился ли злоумышленник в сети всё это время, не последовало.

Руководство университета не сообщило, какая информация была скомпрометирована, но в документах указано, что утечка коснулась трёх видов данных, включая имена и номера социального страхования. Пострадавшим предложены 24 месяца бесплатного кредитного мониторинга, полис страхового возмещения на сумму в $1 млн и услуги по возмещению ущерба после кражи персональных данных.

Группировка Akira сообщила, что похитила 430 Гбайт данных, включая личную информацию и конфиденциальные документы. Всё это доступно для скачивания любому желающему через torrent-файл, а значит, университет, вероятно, отказался платить выкуп. Akira действует с марта 2023 года, и её жертвы получали различные требования выкупа за похищение данных: от относительно небольших шестизначных сумм до нескольких миллионов долларов. Она взяла на себя ответственность за крупные атаки на такие организации как зоопарк Торонто, австралийский филиал Nissan, Университет Мерсера и компанию Lush — производителя бомбочек для ванн. Группировкам Akira и 8Base в 2024 году следует уделять особое внимание, говорят эксперты по кибербезопасности.

Учёные Стэнфордского университета доложили о создании нового материала, который поможет создать оперативную память с более высокой скоростью работы и энергоэффективностью. Соединение имеет формулу MnPd₃ (марганец-палладий-3). Оно позволит создавать быстрые модули памяти, поддерживающие обучение систем искусственного интеллекта локально, а не на удалённых серверах.

Источник изображения: Gerd Altmann / pixabay.com

Авторы проекта считают, что человечество переходит от эпохи интернета к эпохе ИИ, и актуальной задачей становится запуск ИИ-алгоритмов на периферии — на домашнем компьютере, смартфоне или даже смарт-часах. Это позволит, например, обнаруживать признаки проблем со здоровьем или распознавать естественную речь, но такие приложения требуют более эффективного оборудования, чем существующее, в том числе более быстрой оперативной памяти.

В данном случае речь идёт о памяти типа SOT-MRAM (spin-orbit torque MRAM) — магниторезистивной оперативной памяти с записью данных с помощью спин-орбитального вращательного момента. В её основе лежит внутреннее свойство электронов — его спин. Спин можно описать как нечто напоминающее баскетбольный мяч, вращающийся на кончике пальца спортсмена. Но поскольку электрон является заряженной частицей, он при вращении превращается в крошечный магнит, с поляризацией вдоль оси вращения — возвращаясь к аналогии с баскетбольным мячом, это линия, продолжающая линию пальца у спортсмена. Направляя эти линии вверх или вниз, можно добиться представления нулей или единиц, формируя в массиве байты компьютерных данных. При этом такая память в отличие от применяемой сейчас повсеместно оперативной памяти является энергонезависимой.

Источник изображения: news.stanford.edu

В модулях памяти SOT-MRAM через слой материала спин-орбитального момента (SOT) проходит спин-поляризованный ток, из-за которого производится переключение спинов частиц в соседнем магнитном материале. В идеале правильно подобранные вещества обеспечивают запись данных простым переключением тока в слое SOT. Однако найти подходящий материал для такого слоя непросто, и здесь снова требуется аналогия. Если взять за систему отсчёта лежащий на тарелке ломтик хлеба, а по его краям отложить оси X и Y, то при прохождении тока по оси X у большинства материалов спиновая поляризация производится по оси Y, тогда как максимальной плотности данных можно добиться при поляризации по оси Z — оси, продолжающей линию перпендикулярно воткнутой в ломтик хлеба зубочистки. Обойти это ограничение в общем случае получается при помощи внешнего магнитного поля, которое требует дополнительного пространства и дополнительных расходов энергии.

Нужными свойствами обладает полученное американскими учёными соединение MnPd₃ — его внутренняя структура лишена кристаллической симметрии, которая заставила бы все электроны выстраивать спины вдоль одной линии. При помощи этого материала исследователи продемонстрировали переключение поляризации как в направлении Y, так и в направлении Z без необходимости во внешнем магнитном поле — её можно выстраивать даже в направлении X, уточнили учёные, хотя этот нюанс в основную работу и не вошёл.

Помимо асимметричной кристаллической структуры, MnPd₃ обладает рядом иных свойств, которые помогут быстро внедрить его в массовое производство модулей SOT-MRAM. В частности, он выдерживает производимый при выпуске электроники отжиг (400 °C на 30 минут), а его слой создаётся при помощи магнетронного напыления — этот процесс уже используется при производстве других компонентов для хранения данных. Иными словами, для его внедрения в производство не потребуется новых инструментов или новых методов — материал обладает новыми свойствами, но идеально вписывается в современные технологии производства. Учёные уже работают над прототипам модулей SOT-MRAM на базе марганца-палладия-3, которые можно будет интегрировать в реальные устройства.

Ученные Стэнфордского университета разработали модель искусственного интеллекта Alpaca AI, которая во многих задачах работает аналогично ChatGPT. Отличие состоит в том, что построили её на основе платформы с открытым исходным кодом, а обучение обошлось менее чем в $600. Иными словами, современные продвинутые системы ИИ можно легко воспроизвести, причём с довольно скромными затратами.

Источник изображения: Gerd Altmann / pixabay.com

Всего полгода назад за эволюцией больших языковых моделей следили разве что учёные и энтузиасты, но с запуском ChatGPT стало очевидным: машины могут общаться так же, как люди. Они за считаные секунды пишут тексты из множества предметных областей, зачастую демонстрируя очень высокий уровень. Последующий выход GPT-4 показал, что и развиваются они с головокружительной скоростью, обещая в скором времени коренным образом преобразовать всё человечество. Собственные аналоги уже есть у Google, Apple, Meta✴, Baidu и Amazon — ИИ-системы скоро наводнят рынок, появившись в поисковых системах, автомобилях и даже смарт-часах.

Как выяснилось, чтобы построить аналог ChatGPT, не нужно ресурсов технологического гиганта — достаточно определённой базы знаний и бюджета в $600. Это на деле подтвердили учёные Стэнфордского университета, взяв за основу разработанную Meta✴ открытую языковую модель LLaMA 7B — самую доступную из линейки LlaMA. Будучи обученной на триллионе примеров, она обладает ограниченными возможностями и в большинстве задач значительно отстаёт от ChatGPT. Основные материальные затраты и главное конкурентное преимущество моделей OpenAI GPT заключаются в огромном количестве времени и человеческих ресурсов, которые разработчик вложил в обучение модели: одно дело прочитать несколько миллиардов книг и совсем другое — усвоить большое число пар вопросов и ответов, готовящих ИИ к предстоящей работе.

Источник изображения: github.com/tatsu-lab

Запустив модель LLaMA 7B, учёные Стэнфорда дали GPT образец из созданных человеком пар вопросов-ответов и предписали ей генерировать по этому образцу новые данные, выдавая по 20 пар за итерацию. Автоматизировав задачу через открытые OpenAI средства OpenAI, они за короткое время получили в распоряжение 52 000 образцов диалога, подходящих для обучения LlaMA, что обошлось учёным менее чем в $500. Далее последовал этап тонкой настройки LlaMA — для этого потребовались ресурсы восьми компьютеров с 80-Гбайт ускорителями NVIDIA A100 на три часа. В облачной инфраструктуре эта услуга обошлась менее чем в $100. По окончании обучения исследователи протестировали свою модель, которой дали имя Alpaca, и сравнили её с ChatGPT в таких задачах как написание электронной почты, публикаций для соцсетей и помощь в работе. Alpaca успешно справилась с 90 тестами, а ChatGPT преодолел лишь 89.

Авторы проекта отметили, что, вероятно, могли бы достичь того же результата с меньшими материальными затратами, если бы поставили цель оптимизировать процесс. При наличии доступа к GPT-4 и более мощным моделям LlaMA, которые можно взять за основу, любой подготовленный специалист смог бы повторить опыт и даже достичь более весомых результатов, не останавливаясь на 52 000 пар вопросов и ответов, тем более, что свой набор учёные Стэнфорда опубликовали на Github. Они также предупредили, что пока не занимались важнейшим из вопросов для современных ИИ — не провели дополнительной тонкой настройки, чтобы обеспечить безопасную и этичную работу модели, поэтому тех, кто будет использовать их наработки, попросили сообщать о выявленных сбоях.

Повторить опыт стэнфордских учёных теоретически может любой желающий при наличии технической подготовки и суммы в $600, однако остаются некоторые препятствия. Лицензия OpenAI не разрешает использовать данные её моделей для разработки конкурирующих систем, а Meta✴ пока разрешила академическим исследователям пользоваться только некоммерческими лицензиями — виной всему утечка LlaMA на имиджборд 4chan через неделю после анонса. С другой стороны, ещё одна сторонняя группа разработчиков нашла способ запустить Alpaca AI на одноплатных компьютерах Raspberry Pi с возможностью масштабирования до более продвинутых LlaMA-13B, 30B и 65B и не прибегать в услугам облачных провайдеров на этапе тонкой настройки — достаточно ресурсов всего одной бытовой, пусть и чрезвычайно мощной видеокарты NVIDIA GeForce RTX 4090 на пять часов.