Сегодня 06 июня 2025
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

RagaAI выпустит лекарство от галлюцинаций для ИИ

Cтартапу RagaAI удалось привлечь финансирование в размере $4,7 млн на разработку программных средств, упрощающих выявление дефектов в нейросетях, пишет Bloomberg. Речь о таких проблемах современных ИИ систем, как так называемые «галлюцинации» или неспособность предоставить критически важную информацию в конкретный момент времени.

 Источник изображения: RagaAI

Источник изображения: RagaAI

Подобные решения, по словам источника, позволят повысить надёжность работы и безопасность систем искусственного интеллекта. У истоков стартапа стоит выходец из NVIDIA и Texas Instruments — сорокачетырёхлетний Гаурав Агарвал (Gaurav Agarwal), который о необходимости создания подобных инструментов задумался после неприятного инцидента с тестированием системы автономного вождения на дорогах Калифорнии. Автоматика не смогла своевременно распознать возникшее на пути следования препятствия, в результате чего Агарвал был вынужден применить экстренное торможение и избежал тем самым столкновения.

Как основатель RagaAI признался в интервью Bloomberg, ему доводилось сталкиваться с проблемами в работе нейросетей во время работы в NVIDIA и Ola. Устранять ошибки в работе систем искусственного интеллекта, по его словам, важно в ряде сценариев, подразумевающих высокую степень ответственности — например, при диагностике онкологических заболеваний, обслуживании авиационной техники и использовании искусственного интеллекта для подбора персонала.

Стартап RagaAI был основан в Калифорнии ещё до выхода на рынок нашумевшего чат-бота ChatGPT компании OpenAI. Разработанная им платформа позволяет корпоративным клиентам провести более 300 тестов, выявляющих узкие места в работе их систем искусственного интеллекта. Она позволяет выявлять проблемы с распознаванием объектов и появлением «мусора», а также ложных данных, выдаваемых за истину. Более того, разработка RagaAI позволяет блокировать атаки на языковые модели, призванные заставить их работать с ошибками. Основной штат специалистов стартапа разместится в индийском Бенгалуру, на его расширение как раз будут потрачены привлечённые в ходе недавнего раунда финансирования средства.

По словам главы компании, она уже сотрудничает с несколькими крупными клиентам в сфере электронной торговли, аэронавтики и обработки медицинских изображений. Платформа RagaAI уже позволила им снизить количество ошибок в работе систем искусственного интеллекта на 90 %.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Google навела порядок в Gemini 2.5 Pro — исправлены накопившиеся у ИИ-модели «регрессии» 12 мин.
Game Science подтвердила дату выхода Black Myth: Wukong на Xbox и анонсировала первую скидку на игру 51 мин.
Акции Microsoft установили новый рекорд стоимости вопреки падающему рынку 2 ч.
«Это не просто игра»: владельцы премиальных изданий прониклись Dune: Awakening, несмотря на проблемы расширенного доступа 4 ч.
Apple представила данные о $1,3 трлн оборота App Store перед WWDC25 12 ч.
Windows 11 получит лёгкий текстовой редактор Edit — «Блокнот» стал слишком перегружен 14 ч.
В России заработала система блокировки мошеннических сайтов и приложений 17 ч.
AMD выпустила драйвер с поддержкой видеокарт Radeon RX 9060 XT и Radeon AI Pro R9700 17 ч.
Классические Baldur’s Gate, EA Sports FC 25 и четыре новых релиза: Microsoft раскрыла, чем порадует подписчиков Game Pass в начале июня 18 ч.
Живописное приключение Sword of the Sea от создателей Abzu и The Pathless выглядит как наследник Journey — новый трейлер и дата выхода 19 ч.
В Китае испытали сверхзащищённый канал уникальной квантовой связи с взлетающей ракетой 13 мин.
Huawei и XPeng представили гигантский 87-дюймовый проекционный дисплей для авто 27 мин.
Nvidia захватила 92 % рынка видеокарт, но Intel осталась лидером на рынке GPU 35 мин.
Razer выпустила Phantom Collection — клавиатуру, мышь, гарнитуру и коврик в полупрозрачных корпусах 2 ч.
Endeavour предложила ЦОД натриевые батареи Tiamat 2 ч.
Созданы первые устойчивые к ошибкам фотонные квантовые процессоры — миллионы кубитов уже не за горами 2 ч.
Castrol запустила сервис управления оборотом жидкостей для охлаждения дата-центров 3 ч.
Новый глава Intel сосредоточен на повышении прибыльности компании 5 ч.
Внезапный конфликт Трампа и Маска моментально снизил капитализацию Tesla на $152 млрд 7 ч.
Министр торговли США призвал быстрее строить предприятия по выпуску чипов и лучше следить за соблюдением санкций в Китае 7 ч.