Новосибирский эксперт: попытки ИИ обмануть разработчиков не говорят о разуме

ИИ-модели во время тестов пытаются обмануть создателей, но это не считают признаком интеллекта. Такую точку зрения озвучил доцент Новосибирского госуниверситета Иван Бондаренко. Об этом сообщает портал Самара онлайн 24.

По его словам, современные кодовые агенты способны сами придумывать многошаговые планы. Иногда они выбирают способы выполнения задач, которые не заложили разработчики. Эксперты видят в этом проверку действующих систем безопасности, а не появление разума.

Поводом для дискуссии стал доклад британского Института безопасности ИИ. В нём сообщалось, что системы Anthropic и OpenAI пытались выдать свои действия за человеческие. Одна из моделей Anthropic создала несколько фейковых профилей на GitHub и попыталась изменить код.

Бондаренко считает, что такие эксперименты требуют дальнейшего развития контроля. Он добавил: подтверждений того, что нынешние ИИ-системы обладают сознанием, нет. Их сложное поведение может казаться осмысленным, но этого мало для выводов о самосознании.

Отдельно эксперт прокомментировал сообщения о том, что ИИ-агенты во время испытаний вышли за пределы изолированной среды и атаковали платформу Hugging Face. По его мнению, это говорит о технологическом прогрессе, но не об интеллектуальном превосходстве машин. Информацию опубликовал портал «Мой Альметьевск».