OpenAIbào gào报告：yǒu rén有人yòng用ChatGPTzuò做wǎng luò网络mǒ hēi抹黑，měi guó美国yì yuán议员dān xīn担心bèi被yòng lái用来dǎ yā打压yì yì rén shì异议人士
OpenAI publicó recientemente un informe que indica que descubrieron a un funcionario chino de la ley usando ChatGPT como una 'herramienta de trabajo' para redactar planes, editar textos y realizar algunas operaciones de influencia en línea, como difundir contenido desfavorable sobre la política japonesa Sanae Takaichi en redes sociales y hacerse pasar por residentes extranjeros para presentar quejas.
ChatGPT rechazó algunas solicitudes, y OpenAI posteriormente suspendió el acceso del usuario.
El informe también menciona que este usuario se hizo pasar por un oficial de inmigración estadounidense para intimidar a disidentes chinos en EE.UU., solicitó a la IA generar documentos judiciales falsos para bloquear cuentas de otros en plataformas, e incluso creó obituarios falsos y fotos de lápidas afirmando la muerte de un disidente; estos contenidos luego aparecieron en línea.
Algunos legisladores estadounidenses comentaron que usar IA para estos fines haría que la represión transnacional sea más rápida y parecida a una 'línea de montaje'.
OpenAI declaró que la publicación del informe tiene como objetivo alertar a todos para prevenir el uso malintencionado de la IA.