Сегодня 29 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

RagaAI выпустит лекарство от галлюцинаций для ИИ

Cтартапу RagaAI удалось привлечь финансирование в размере $4,7 млн на разработку программных средств, упрощающих выявление дефектов в нейросетях, пишет Bloomberg. Речь о таких проблемах современных ИИ систем, как так называемые «галлюцинации» или неспособность предоставить критически важную информацию в конкретный момент времени.

 Источник изображения: RagaAI

Источник изображения: RagaAI

Подобные решения, по словам источника, позволят повысить надёжность работы и безопасность систем искусственного интеллекта. У истоков стартапа стоит выходец из NVIDIA и Texas Instruments — сорокачетырёхлетний Гаурав Агарвал (Gaurav Agarwal), который о необходимости создания подобных инструментов задумался после неприятного инцидента с тестированием системы автономного вождения на дорогах Калифорнии. Автоматика не смогла своевременно распознать возникшее на пути следования препятствия, в результате чего Агарвал был вынужден применить экстренное торможение и избежал тем самым столкновения.

Как основатель RagaAI признался в интервью Bloomberg, ему доводилось сталкиваться с проблемами в работе нейросетей во время работы в NVIDIA и Ola. Устранять ошибки в работе систем искусственного интеллекта, по его словам, важно в ряде сценариев, подразумевающих высокую степень ответственности — например, при диагностике онкологических заболеваний, обслуживании авиационной техники и использовании искусственного интеллекта для подбора персонала.

Стартап RagaAI был основан в Калифорнии ещё до выхода на рынок нашумевшего чат-бота ChatGPT компании OpenAI. Разработанная им платформа позволяет корпоративным клиентам провести более 300 тестов, выявляющих узкие места в работе их систем искусственного интеллекта. Она позволяет выявлять проблемы с распознаванием объектов и появлением «мусора», а также ложных данных, выдаваемых за истину. Более того, разработка RagaAI позволяет блокировать атаки на языковые модели, призванные заставить их работать с ошибками. Основной штат специалистов стартапа разместится в индийском Бенгалуру, на его расширение как раз будут потрачены привлечённые в ходе недавнего раунда финансирования средства.

По словам главы компании, она уже сотрудничает с несколькими крупными клиентам в сфере электронной торговли, аэронавтики и обработки медицинских изображений. Платформа RagaAI уже позволила им снизить количество ошибок в работе систем искусственного интеллекта на 90 %.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Раскрыта древнейшая «пасхалка» от разработчиков Apple — 27 лет назад её спрятали в Power Mac G3 4 ч.
Обновился формат изображений PNG — теперь в нём поддерживается HDR, анимация и Exif 4 ч.
ИИ может лишить работы миллионы — Anthropic выяснит, так ли это на самом деле 4 ч.
Новая статья: Rematch — лучшая версия дворового футбола. Рецензия 5 ч.
Годовая выручка Canonical приблизилась к $300 млн 12 ч.
Использование ИИ превратилось из рекомендации в обязанность для менеджеров Microsoft 15 ч.
Долг Google по штрафам в России превысил 27 млрд рублей — и ещё 2,8 дуодециллиона рублей 15 ч.
Российские банки тестируют заменитель Apple Pay, но до массового внедрения ещё далеко 15 ч.
Facebook захотел покопаться в фотографиях на смартфонах пользователей — скорее всего, для обучения ИИ 17 ч.
В миллионах принтеров Brother обнаружены уязвимости безопасности — некоторые невозможно исправить 23 ч.
Speedata представила ускоритель анализа данных и привлекла на развитие $44 млн 5 ч.
Первые огневые испытания ускорителя для лунных и марсианских ракет SLS закончились яркой и шумной аномалией 7 ч.
Смартфоны в России подорожали на 10 %, а их продажи упали на 15–20 % 7 ч.
ИИ-процессор Microsoft выйдет с опозданием и будет медленнее Nvidia Blackwell 11 ч.
Старый марсианский спутник NASA научился «стоять на голове» — это на порядок повысило чувствительность подповерхностного радара 13 ч.
Мёртвый спутник NASA потёрся об атмосферу и перепугал учёных, испустив загадочный радиосигнал 17 ч.
Tesla впервые доехала до покупателя своим ходом без людей в салоне 22 ч.
Maxell выпустила кассетный ретро-плеер MXCP-P100 с поддержкой Bluetooth-наушников и USB-C 22 ч.
Intel отправила в отставку директора по стратегии 22 ч.
Мозговой имплант N1 компании Neuralink получили уже семь пациентов с опорно-двигательными проблемами 23 ч.