El sospechoso supuestamente usó ChatGPT para generar un informe falso sobre un accidente de tren, que luego publicó en línea con fines de lucro. Se trata del primer arresto en el país de una persona acusada de usar el ChatGPT para fabricar y difundir noticias falsas.
(CNN) – La policía en China detuvo a un hombre que, según dicen, usó ChatGPT para crear noticias falsas y difundirlas en línea, en lo que los medios estatales calificaron como el primer caso criminal del país relacionado con el chatbot de IA.
Según un comunicado de la policía de la provincia noroccidental de Gansu, el sospechoso supuestamente usó ChatGPT para generar un informe falso sobre un accidente de tren, que luego publicó en línea con fines de lucro. El artículo recibió unas 15.000 visitas, dijo la policía en el comunicado del domingo.
ChatGPT, desarrollado por OpenAI respaldado por Microsoft (MSFT), está prohibido en China, aunque los usuarios de Internet pueden usar redes privadas virtuales (VPN) para acceder a él.
Los choques de trenes han sido un tema delicado en China desde 2011, cuando las autoridades enfrentaron presiones para explicar por qué los medios estatales no proporcionaron actualizaciones oportunas sobre la colisión de un tren bala en la ciudad de Wenzhou que resultó en 40 muertes.
Las autoridades de Gansu dijeron que el sospechoso, de apellido Hong, fue interrogado en la ciudad de Dongguan, en la provincia sureña de Guangdong, el 5 de mayo.
“Hong usó tecnología moderna para fabricar información falsa, difundiéndola en Internet, que fue ampliamente difundida“, dijo la policía de Gansu en el comunicado.
“Su comportamiento equivalía a buscar peleas y provocar problemas”, agregaron, explicando el delito que Hong fue acusado de cometer.
Nuevas reglas
La policía dijo que el arresto fue el primero en Gansu desde que la Administración del Ciberespacio de China promulgó nuevas regulaciones en enero para controlar el uso de falsificaciones profundas. La emisora estatal CGTN dice que fue el primer arresto en el país de una persona acusada de usar ChatGPT para fabricar y difundir noticias falsas.
Conocido formalmente como síntesis profunda, la falsificación profunda se refiere a contenido textual y visual altamente realista generado por inteligencia artificial.
La nueva legislación prohíbe a los usuarios generar contenido profundamente falso sobre temas que ya están prohibidos por las leyes existentes en la Internet fuertemente censurada de China. También describe los procedimientos de eliminación de contenido considerado falso o dañino.
El arresto también se produjo en medio de una campaña de 100 días lanzada por la rama de Internet del Ministerio de Seguridad Pública en marzo para tomar medidas enérgicas contra la propagación de rumores en Internet.
Desde principios de año, los gigantes chinos de Internet como Baidu (BIDU) y Alibaba (BABA) han buscado ponerse al día con OpenAI, lanzando sus propias versiones del servicio ChatGPT.
Baidu presentó “Wenxin Yiyan” o “ERNIE Bot” en marzo. Dos meses después, Alibaba lanzó “Tongyi Qianwen”, que se traduce aproximadamente como buscar la verdad haciendo mil preguntas.
En el borrador de las pautas emitidas el mes pasado para solicitar comentarios del público, el regulador del ciberespacio de China dijo que los servicios de inteligencia artificial generativa deberían someterse a revisiones de seguridad antes de que puedan operar.
Los proveedores de servicios también deberán verificar las identidades reales de los usuarios, además de proporcionar detalles sobre la escala y el tipo de datos que utilizan, sus algoritmos básicos y otra información técnica.
