fbpx
- Anuncio -
Home Tecnología ‘Inteligente pero aleatorio’: Jimmy Wales de Wikipedia sobre los riesgos más sutiles...

‘Inteligente pero aleatorio’: Jimmy Wales de Wikipedia sobre los riesgos más sutiles de la IA

0
106
- Anuncio -

Hace unos 30 años, el cofundador de Wikipedia, Jimmy Wales, estaba conversando con un amigo sobre la posibilidad de la inteligencia artificial. Pensaron que si alguna vez llegaba la IA, sería una tecnología muy seria y basada en hechos, sin imaginación ni creatividad.

Ahora, Wales dijo que está sorprendido por lo que la IA puede hacer: no es muy buena con los hechos, pero es realmente creativa.


El auge de la IA generativa, en particular la evolución continua de ChatGPT de OpenAI, ha planteado serias dudas para la enciclopedia en línea sin fines de lucro, cuyo contenido es mantenido por una comunidad de editores voluntarios.


‘Es claramente un avance tecnológico sorprendente, que creo que nos afectará a todos’, dijo Wales a Nikkei Asia al margen del cuarto evento anual Tecnología para el Cambio de Asia de Economist Impact en Hong Kong. Un problema, afirmó, es la fiabilidad de las respuestas generadas por la IA. ‘Es realmente bueno inventar un poema tonto para los niños para su cumpleaños, es muy inteligente en ese sentido, pero también es muy aleatorio’, continuó.


Las llamadas alucinaciones de IA (respuestas inexactas o incluso inventadas generadas debido a factores como datos defectuosos, entrenamiento deficiente y la naturaleza de las predicciones basadas en algoritmos) son un problema reconocido en la IA generativa que los desarrolladores están trabajando para superar.


Otra preocupación ha sido que los usuarios puedan recurrir a ChatGPT en busca de información que antes habrían encontrado en Wikipedia, lo que los hace menos propensos a apoyar financieramente la plataforma. Como organización sin fines de lucro, la Fundación Wikimedia que administra Wikipedia depende en gran medida de donaciones, particularmente de pequeños donantes.


Por ahora, dijo Wales, ChatGPT ‘no ha tenido ningún impacto ni en el tráfico ni en la recaudación de fondos’ de la organización.


Sin embargo, eso no significa que Wikipedia se quede de brazos cruzados. Después de que ChatGPT conquistara el mundo, la plataforma amplió su equipo de aprendizaje automático.

‘Creemos que esto es una oportunidad y una amenaza’, dijo Wales. ‘Necesitamos asegurarnos de tener suficientes recursos para entender lo que está pasando y no recibir sorpresas’.


La compañía también está experimentando con la creación de un modelo de lenguaje grande de código abierto para respaldar a su comunidad de edición, por ejemplo, ayudando a encontrar errores u optimizando su búsqueda interna.


‘Realmente pensamos, particularmente en este momento, cuando los modelos de IA tienen graves fallas en términos de precisión… si hay una manera de que un modelo de IA ayude a un editor dándole una sugerencia o verificando algo, eso es válido… Pero cualquier cosa que aparezca en Wikipedia, la responsabilidad es de los humanos’, dijo Wales.

La desinformación, dijo, no es un problema nuevo para Wikipedia, ya que la plataforma siempre está luchando contra las noticias falsas a través de incansables debates de los editores y la verificación cruzada de los hechos.
Pero aunque Wales dijo que no ve una amenaza inmediata a la plataforma por parte de la IA, le preocupa el impacto indirecto de la tecnología.


‘Me preocupan mucho más las noticias locales, que han estado en declive general a lo largo de los años. Puedes imaginar a alguien pensando [en] usar IA para generar algunas noticias locales, incluso si no son puras mentiras, entonces te puedes imaginar si tienes una red más grande que produzca este tipo de noticias… Si vemos una mayor disminución en la calidad del periodismo y el panorama competitivo cambia para hacer que el modelo de negocios del periodismo sea más difícil, eso también es un problema para Wikipedia’, dijo.


‘Obviamente descubriremos historias falsas con el tiempo, pero me preocupa cómo tener un ecosistema controlado’, añadió.


Wikipedia es una de las fuentes más importantes para el entrenamiento de modelos de IA, que requiere enormes cantidades de datos, pero todas las versiones de la plataforma están bloqueadas en China desde 2019. Wales dijo que sospecha de las empresas chinas, que están luchando por ponerse al día con sus Sus homólogos estadounidenses en IA generativa, pero que también enfrentan desafíos en conjuntos de datos de calidad para el entrenamiento, podrían haber utilizado los conjuntos de datos de descarga gratuita de Wikipedia para entrenar sus grandes modelos de lenguaje, pero la compañía no tiene una manera de rastrear eso.


‘Habrá contenido que no le gustará al gobierno. Así que las empresas tendrán que filtrar las respuestas’, dijo, añadiendo que una vez probó un chatbot chino de habla inglesa.


‘Hice ciertas preguntas sobre el incidente de la Plaza de Tiananmen en 1989, y comencé a escribir como tres o cuatro oraciones, y luego desapareció y decía que la respuesta había sido eliminada por razones de seguridad. Era casi como una parodia, como una broma’. dijo Gales.


Lanzada en 2001, Wikipedia figura constantemente entre los 10 sitios web más visitados del mundo. Actualmente hay alrededor de 75.000 personas al mes realizando cinco o más ediciones en el sitio web, y hay alrededor de 5.000 editores clave en total que realmente supervisan el contenido, según Wales.

Fuente: https://asia.nikkei.com/Editor-s-Picks/Interview/Clever-but-random-Wikipedia-s-Jimmy-Wales-on-the-subtler-risks-of-AI?utm_campaign=GL_asia_daily&utm_medium=email&utm_source=NA_newsletter&utm_content=article_link&del_type=1&pub_date=20240228190000&seq_num=24&si=13636

NO COMMENTS

LEAVE A REPLY

Please enter your comment!
Please enter your name here