ИИ ошибается в 100% случаев при поиске внеземной жизни — эксперимент
AI Изображение создано с помощью ИИ и носит иллюстративный характер
Искусственный интеллект (ИИ) оказался крайне ненадёжным в поиске внеземной жизни. Исследователи из Университета штата Мичиган доказали: современные алгоритмы машинного обучения можно обмануть в 100% случаев. Об этом 7 июля сообщил журнал Popular Science. Об этом рассказывает издание Известия.
Компьютерный инженер Анкит Гупта и его коллега Кристоф Адами провели эксперимент с программой Avida, симулирующей эволюционные процессы. Нейросеть обучили на десятках тысяч цифровых организмов отличать самовоспроизводящиеся цепочки от остальных.
На этапе обучения алгоритм показывал высокую точность. Но при столкновении с новыми примерами он перестал справляться. Всего 150 незначительных изменений в программном коде организмов заставили ИИ массово принимать ложные сигналы за признаки жизни.
Проблема выходит за рамки космических миссий, считают авторы. Ложные срабатывания могут затронуть системы распознавания лиц, беспилотные автомобили и медицинские сканеры. Учёные подчёркивают: результаты не приговор для технологий, но напоминают о необходимости контроля со стороны человека.
Адами указал на необходимость независимого способа проверки работы алгоритма. При этом он подчеркнул, что в этом цикле обязательно должен участвовать человек.
Последние новости Ижевска уже в твоем телефоне - подписывайся на телеграм-канал «Вкратце | Ижевск | Удмуртия!»
