Сегодня 29 сентября 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Теги → анализ больших данных

RagaAI выпустит лекарство от галлюцинаций для ИИ

Cтартапу RagaAI удалось привлечь финансирование в размере $4,7 млн на разработку программных средств, упрощающих выявление дефектов в нейросетях, пишет Bloomberg. Речь о таких проблемах современных ИИ систем, как так называемые «галлюцинации» или неспособность предоставить критически важную информацию в конкретный момент времени.

 Источник изображения: RagaAI

Источник изображения: RagaAI

Подобные решения, по словам источника, позволят повысить надёжность работы и безопасность систем искусственного интеллекта. У истоков стартапа стоит выходец из NVIDIA и Texas Instruments — сорокачетырёхлетний Гаурав Агарвал (Gaurav Agarwal), который о необходимости создания подобных инструментов задумался после неприятного инцидента с тестированием системы автономного вождения на дорогах Калифорнии. Автоматика не смогла своевременно распознать возникшее на пути следования препятствия, в результате чего Агарвал был вынужден применить экстренное торможение и избежал тем самым столкновения.

Как основатель RagaAI признался в интервью Bloomberg, ему доводилось сталкиваться с проблемами в работе нейросетей во время работы в NVIDIA и Ola. Устранять ошибки в работе систем искусственного интеллекта, по его словам, важно в ряде сценариев, подразумевающих высокую степень ответственности — например, при диагностике онкологических заболеваний, обслуживании авиационной техники и использовании искусственного интеллекта для подбора персонала.

Стартап RagaAI был основан в Калифорнии ещё до выхода на рынок нашумевшего чат-бота ChatGPT компании OpenAI. Разработанная им платформа позволяет корпоративным клиентам провести более 300 тестов, выявляющих узкие места в работе их систем искусственного интеллекта. Она позволяет выявлять проблемы с распознаванием объектов и появлением «мусора», а также ложных данных, выдаваемых за истину. Более того, разработка RagaAI позволяет блокировать атаки на языковые модели, призванные заставить их работать с ошибками. Основной штат специалистов стартапа разместится в индийском Бенгалуру, на его расширение как раз будут потрачены привлечённые в ходе недавнего раунда финансирования средства.

По словам главы компании, она уже сотрудничает с несколькими крупными клиентам в сфере электронной торговли, аэронавтики и обработки медицинских изображений. Платформа RagaAI уже позволила им снизить количество ошибок в работе систем искусственного интеллекта на 90 %.


window-new
Soft
Hard
Тренды 🔥
Electronic Arts уйдёт с биржи благодаря сделке на $55 миллиардов — компанию выкупят три инвестора, включая Суверенный фонд Саудовской Аравии 7 мин.
Обороты компьютерных клубов в России за пять лет выросли в десятки раз 2 ч.
Devolver анонсировала Minos — игру о строительстве непроходимых лабиринтов по мотивам древнегреческого мифа о Тесее и Минотавре 4 ч.
Silent Hill f обогнала ремейк Silent Hill 2 по скорости продаж на запуске 4 ч.
Разработчики сосредоточились на ИИ-моделях мира для создания сверхразума 5 ч.
Databricks и OpenAI помогут клиентам в развёртывании приложений на базе передовых ИИ-моделей 5 ч.
Не было бы счастья, да Silksong помогла: хоррор об ужасах долговой ямы CloverPit очаровал пользователей Steam и порадовал разработчиков продажами 7 ч.
Число криптомиллионеров выросло на 40 % за год — теперь их 241 700 28-09 16:30
Nival выложила в открытый доступ исходный код военной стратегии «Блицкриг 2» 28-09 15:48
Google работает над функцией бесшовного переноса приложений между Android и Windows 28-09 13:12
Британский оператор BT в панике потребовал убрать все литиевые аккумуляторы из телефонных станций из-за риска возгорания 21 мин.
Геймерский 27-дюймовый QD-OLED-монитор Gigabyte Aorus FO27Q5P с 2K и 500 Гц дебютировал в России 52 мин.
Nothing представила CMF Headphone Pro — модульные полноразмерные наушники с автономностью на 100 часов за $99 2 ч.
Qualcomm представила результаты тестов Snapdragon X2 Elite Extreme, в которых он оказался лучше всех 2 ч.
Digital Realty получит от Current Hydro 500 ГВт∙ч энергии с американских ГЭС 2 ч.
В России подорожали ноутбуки премиум-класса — впереди новый виток роста цен 2 ч.
Закрытие угольных электростанций в США забуксовало из-за спроса на энергию для ИИ ЦОД 3 ч.
Xiaomi похвалилась отличными продажами Xiaomi 17 Pro и Pro Max, но не все разделили оптимизм 4 ч.
Huawei удвоит объёмы выпуска флагманских ИИ-чипов в следующем году, но до Nvidia ещё далеко 4 ч.
Крупнейший разработчик технологий для чипов будущего Imec сменит гендира, чтобы преуспеть в эпоху ИИ 5 ч.