OpenAIbào gào报告：yǒu rén有人yòng用ChatGPTzuò做wǎng luò网络mǒ hēi抹黑，měi guó美国yì yuán议员dān xīn担心bèi被yòng lái用来dǎ yā打压yì yì rén shì异议人士
OpenAI недавно опубликовала отчет, в котором говорится, что они обнаружили, что один китайский сотрудник правоохранительных органов использовал ChatGPT как «рабочий инструмент» для написания планов, редактирования текстов и попыток проведения онлайн-влияния, например, распространения негативного контента о японском политике Санаэ Такаити в социальных сетях и притворства иностранными жителями, подающими жалобы.
ChatGPT отклонил часть запросов, и OpenAI позже приостановила доступ этого пользователя.
В отчете также упоминается, что этот пользователь выдавал себя за американского иммиграционного чиновника, чтобы запугать китайских диссидентов в США, просил AI создать поддельные судебные документы, чтобы заблокировать аккаунты других пользователей на платформах, а также создавал фальшивые некрологи и фотографии надгробий с сообщениями о смерти диссидента; эти материалы позже появились в интернете.
Некоторые американские законодатели прокомментировали, что использование искусственного интеллекта для таких целей сделает трансграничное подавление быстрее и более похожим на «конвейер».
OpenAI заявила, что публикация отчета направлена на предупреждение всех о предотвращении злонамеренного использования ИИ.