- Las nuevas reglas cubren todos los servicios de contenido de IA generativa, incluidos texto, imágenes, audio y video, proporcionados al público chino.
- Las nuevas regulaciones son de apoyo, y las autoridades se comprometen a “tomar medidas efectivas para fomentar el desarrollo innovador de la IA generativa”.
China emitió el jueves las regulaciones más tempranas y detalladas del mundo sobre modelos de inteligencia artificial (IA) generativa al destacar el contenido saludable y los “valores socialistas fundamentales”, ya que Beijing busca controlar el despliegue de servicios de estilo ChatGPT.
De acuerdo con las regulaciones provisionales publicadas conjuntamente por siete reguladores chinos encabezados por la Administración del Ciberespacio de China, que entrarán en vigencia el 15 de agosto, todos los servicios de contenido generativo de IA, incluidos texto, imágenes, audio y video, proporcionados al público chino estarán sujetos a las nuevas reglas.
En comparación con un borrador anterior publicado en abril solicitando comentarios del público, las nuevas regulaciones tienen un tono más favorable a la nueva tecnología, y las autoridades se comprometen a “tomar medidas efectivas para fomentar el desarrollo innovador de la IA generativa”. Se han eliminado los términos punitivos del borrador, como “multas que oscilan entre 10.000 y 100.000 yuanes” por delitos relacionados con la tecnología.
China aún no ha permitido que las empresas nacionales implementen servicios de estilo ChatGPT para el público, con Ernie Bot de Baidu y Tongyi Qianwen de Alibaba Group Holding todavía en modo de prueba o solo para uso comercial.
Mientras tanto, ChatGPT de OpenAI y Bard de Google siguen sin estar disponibles en China, y los enlaces a estos modelos extranjeros se bloquearon rápidamente. Las nuevas regulaciones, si bien están diseñadas para controlar cuidadosamente el desarrollo de la IA generativa, probablemente proporcionarán un camino más claro para que los desarrolladores nacionales lleven sus productos al mercado masivo.
Los reguladores chinos dijeron que adoptarán una actitud “inclusiva y prudente” hacia los servicios de inteligencia artificial generativa e implementarán un enfoque regulatorio “graduado”. Los otros reguladores involucrados en el borrador de las reglas incluyen la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Educación, el Ministerio de Ciencia y Tecnología, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la autoridad de radiodifusión de China.
Según las nuevas regulaciones, los proveedores de servicios de IA generativa deben “adherirse a los valores socialistas fundamentales” y no generar ningún contenido que “incite a la subversión del poder estatal y al derrocamiento del sistema socialista, ponga en peligro la seguridad y los intereses nacionales, dañe la imagen del país, incite a la secesión del país, socave la unidad nacional y la estabilidad social, promueva el terrorismo, el extremismo, el odio nacional y la discriminación étnica, la violencia, la obscenidad y la pornografía”.
En términos más generales, los modelos de IA y los chatbots no deberían generar “información falsa y dañina”.
Los chatbots y los modelos de IA desarrollados en China ya tienen funciones integradas para garantizar que el contenido generado esté libre de información no deseada. Por ejemplo, Zhong Hongyi, presidente de 360 Security Technology, tuvo cuidado de describir la función de autocensura del chatbot de la empresa en una presentación, mostrando que si un usuario ingresa una “palabra sensible”, el chatbot finalizará la conversación de inmediato.
En términos de diseño de algoritmos y selección de datos de capacitación, los reguladores de China exigen que los proveedores de servicios eviten cualquier discriminación basada en el origen étnico, la fe, el país, la región, el género, la edad, la ocupación y la salud, y que respeten los derechos de propiedad intelectual.
De acuerdo con la nueva regulación, China también fomenta la “aplicación innovadora de la tecnología de IA generativa”, así como el “contenido positivo y saludable”.
La regulación alinea el desarrollo de IA con las prioridades políticas y económicas de China, siguiendo su regulación de 2021 sobre algoritmos de recomendación y la regulación de 2022 sobre contenido profundo generado sintéticamente, que Beijing exige que se etiquete como “generado sintéticamente”.
Xia Heilong, abogado del bufete de abogados Shen Lun con sede en Shanghái, dijo que “el pensamiento regulatorio central [en la nueva regulación] es consistente con la visión regulatoria general del ciberespacio de China” con énfasis en el cumplimiento del contenido y la adhesión a los valores fundamentales, la protección de la información personal , y la obligación de prevenir la infracción.
Al mismo tiempo, Xia señaló que China está tratando de regular los servicios de inteligencia artificial de cara al público, en lugar de las tecnologías de inteligencia artificial per se. Por ejemplo, los servicios basados en IA destinados a uso industrial o corporativo interno no están cubiertos por la regulación, dijo Xia.
Las nuevas regulaciones están en línea con la Ley de Ciberseguridad de China, la Ley de Seguridad de Datos de China y la Ley de Protección de Información Personal, según el documento publicado por CAC en su sitio web oficial.
Las nuevas reglas también estipulan que los proveedores de servicios de IA generativa deben detener sus operaciones y reportar actividades ilegales si descubren que los usuarios están empleando la IA para producir contenido ilegal en sus plataformas. Los proveedores de servicios de IA también deben establecer medidas de seguridad para evitar que los menores se vuelvan adictos a dichos servicios.
Por: che pan
Fuente: https://www.scmp.com/tech/big-tech/article/3227576/china-sets-out-new-rules-generative-ai-beijing-emphasising-healthy-content-and-adherence-socialist?module=perpetual_scroll_0&pgtype=article&campaign=3227576
