Профессор медиаискусств и наук Массачусетского технологического института Деб Рой заявил, что использование искусственного интеллекта в общественных дискуссиях требует четкого закрепления ответственности за человеком. Об этом он написал в эссе «Кто стоит за словами?», опубликованном в Bulletin of the Atomic Scientists.
По мнению Роя, даже если ИИ помогает подготовить сообщение, кто-то должен быть готов подтвердить его содержание и объяснить изложенную позицию. Профессор обратился к этой теме после появления ChatGPT и изучения возможностей больших языковых моделей. Он отметил, что убедительность и качество текста не позволяют определить, кто отвечает за высказанные в нем идеи.
В качестве примера ученый привел ситуацию с общественными комментариями в США. В 2017 году Федеральная комиссия по связи получила более 22 млн откликов на предложение отменить правила сетевого нейтралитета. Позже генеральный прокурор Нью-Йорка установил, что почти 18 млн комментариев были поддельными. По мере развития языковых моделей выявлять подобные манипуляции становится сложнее: ИИ способен создавать разнообразные тексты без очевидных повторов и шаблонных фраз.
Рой подчеркивает, что возможность высказаться должна сочетаться с обязанностью отвечать за свои слова. При этом, по его мнению, ответственность не обязательно требует публичного раскрытия личности автора. Ее может обеспечить организация, которая подтвердит личность участника, сохранив его анонимность для широкой аудитории. Условия идентификации должны зависеть от возможных последствий высказывания и уязвимости говорящего.
В эссе профессор сформулировал четыре принципа ответственного применения ИИ: установление авторства, возможность проверить процесс подготовки текста, сохранение происхождения данных и расширение доступа к участию в дискуссиях. Нейросети могут помогать с черновиками, обобщением ответов и поиском общих тем, но окончательное решение и ответственность должны оставаться за человеком.
Эти принципы развиваются в проектах Центра конструктивной коммуникации MIT и некоммерческой организации Cortico, сооснователем которой является Рой. Инициативы Real Talk и realtalk@MIT поддерживают групповые обсуждения и позволяют участникам проверять результаты анализа. VoiceTrace связывает итоговые выводы с исходными высказываниями, а New Social Forms исследует влияние ИИ на совместную работу и согласование идей.
Рой также призывает внедрять технологии с учетом скорости формирования общественного доверия. Он считает, что технологические изменения пока опережают развитие демократических процедур, поэтому институтам необходимо время, чтобы адаптироваться и оценить последствия применения новых инструментов, сообщает "Самара Онлайн 24".