Сегодня 24 апреля 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → анализ больших данных

RagaAI выпустит лекарство от галлюцинаций для ИИ

Cтартапу RagaAI удалось привлечь финансирование в размере $4,7 млн на разработку программных средств, упрощающих выявление дефектов в нейросетях, пишет Bloomberg. Речь о таких проблемах современных ИИ систем, как так называемые «галлюцинации» или неспособность предоставить критически важную информацию в конкретный момент времени.

 Источник изображения: RagaAI

Источник изображения: RagaAI

Подобные решения, по словам источника, позволят повысить надёжность работы и безопасность систем искусственного интеллекта. У истоков стартапа стоит выходец из NVIDIA и Texas Instruments — сорокачетырёхлетний Гаурав Агарвал (Gaurav Agarwal), который о необходимости создания подобных инструментов задумался после неприятного инцидента с тестированием системы автономного вождения на дорогах Калифорнии. Автоматика не смогла своевременно распознать возникшее на пути следования препятствия, в результате чего Агарвал был вынужден применить экстренное торможение и избежал тем самым столкновения.

Как основатель RagaAI признался в интервью Bloomberg, ему доводилось сталкиваться с проблемами в работе нейросетей во время работы в NVIDIA и Ola. Устранять ошибки в работе систем искусственного интеллекта, по его словам, важно в ряде сценариев, подразумевающих высокую степень ответственности — например, при диагностике онкологических заболеваний, обслуживании авиационной техники и использовании искусственного интеллекта для подбора персонала.

Стартап RagaAI был основан в Калифорнии ещё до выхода на рынок нашумевшего чат-бота ChatGPT компании OpenAI. Разработанная им платформа позволяет корпоративным клиентам провести более 300 тестов, выявляющих узкие места в работе их систем искусственного интеллекта. Она позволяет выявлять проблемы с распознаванием объектов и появлением «мусора», а также ложных данных, выдаваемых за истину. Более того, разработка RagaAI позволяет блокировать атаки на языковые модели, призванные заставить их работать с ошибками. Основной штат специалистов стартапа разместится в индийском Бенгалуру, на его расширение как раз будут потрачены привлечённые в ходе недавнего раунда финансирования средства.

По словам главы компании, она уже сотрудничает с несколькими крупными клиентам в сфере электронной торговли, аэронавтики и обработки медицинских изображений. Платформа RagaAI уже позволила им снизить количество ошибок в работе систем искусственного интеллекта на 90 %.


window-new
Soft
Hard
Тренды 🔥
9 из 10 россиян хотя бы раз в месяц посещают «ВКонтакте» — VK похвасталась популярностью сервисов и отчиталась о росте выручки 4 мин.
Adobe создала аналог robots.txt для изображений, чтобы запретить обучать ИИ на них 15 мин.
Сюжетный трейлер раскрыл дату выхода Unfinished Business — самостоятельного дополнения к RoboCop: Rogue City 2 ч.
Видеосервис для совместной работы MWS TeamStream на треть сократит время общения сотрудников 2 ч.
Meta предложила Amazon и Microsoft «скинуться» на обучение ИИ-моделей Llama 3 ч.
Следующей Frostpunk оказался ремейк первой части на Unreal Engine 5 — трейлер и подробности Frostpunk 1886 3 ч.
Минцифры пообещало не запрещать мессенджеры в России, но регулирование ужесточит 3 ч.
Intel выпустила графический драйвер с поддержкой The Elder Scrolls IV: Oblivion Remastered и Clair Obscur: Expedition 33 4 ч.
DeepSeek без разрешения передавал данные пользователей и их запросы в Китай, заявили в Южной Корее 4 ч.
Adobe обновила ИИ-генератор изображений Firefly и переработала его веб-приложение 5 ч.
Великобритания запретила поставлять в Россию геймпады 2 мин.
Volkswagen и Uber создадут конкурента сервису роботакси Tesla на базе электрических микроавтобусов ID.Buzz 2 ч.
Электромобили Stellantis получат передовые твердотельные аккумуляторы Factorial в следующем году 3 ч.
Apple iPhone 16e продаётся лучше последнего iPhone SE, а iPhone 16 Pro уступил предшественнику 3 ч.
Провалившиеся ИИ-броши Humane AI Pin вернули к жизни, но HP к этому не имеет отношения 3 ч.
Производители ПК попытаются найти спасение от американских пошлин в Саудовской Аравии 3 ч.
Беспилотные такси Tesla уже намотали 24 000 км в рамках тестов 3 ч.
Nissan завершил финансовый год с рекордными убытками, но хочет исправить положение с помощью электромобилей китайской сборки 4 ч.
Китай запустил трёх тайконавтов на полгода в космос на корабле «Шэньчжоу-20» 4 ч.
Анонсирован компактный флагман OnePlus 13T со Snapdragon 8 Elite, ёмкой батареей и ценой от $450 5 ч.