OpenAI dijo que su tecnología es capaz de moderar el contenido, una tarea que podría ayudar a las empresas a ser más eficientes y destaca un posible caso de uso para las herramientas de inteligencia artificial que aún no han generado grandes ingresos para muchas empresas.
La startup dijo que su última tecnología, GPT-4, que impulsa ChatGPT, se puede usar para desarrollar políticas sobre contenido apropiado y puede etiquetar o tomar decisiones sobre publicaciones más rápidamente. La empresa ha estado probando la tecnología y ha invitado a los clientes a experimentar también con ella. OpenAI dijo que sus herramientas pueden ayudar a las empresas a realizar seis meses de trabajo en solo un día más o menos.
Andrea Vallone, que trabaja en políticas en OpenAI, dijo que la puesta en marcha descubrió que GPT-4 hace un trabajo eficiente de moderación, un papel que a menudo recae en pequeños ejércitos de trabajadores humanos. Esos trabajos a veces pueden ser traumáticos para las personas que los realizan. Al mismo tiempo, muchas grandes empresas, incluida Meta Platforms Inc., ya utilizan inteligencia artificial para ayudar con la moderación junto con el personal. El uso de la tecnología para interpretar los matices de la escritura humana puede ser un desafío y OpenAI ha hecho hincapié en que el proceso no debe automatizarse por completo.
Redactar políticas de moderación de contenido y etiquetar el contenido suele ser una tarea larga. Las herramientas de OpenAI ayudarán a reducir el ‘delta entre la necesidad y la solución’, dijo Vallone.
Idealmente, los trabajadores humanos de una empresa podrán usar la tecnología para liberarlos y enfocarse en decisiones más complicadas relacionadas con los casos más extremos de posibles violaciones de contenido y cómo refinar las políticas, dijo. “Seguimos teniendo revisión humana para verificar algunos de los juicios modelo”, dijo. “Creo que es importante tener humanos siempre informados”.
Fuente: https://www.bloomberg.com/news/articles/2023-08-15/chatgpt-creator-openai-is-testing-content-moderation-systems?cmpid=BBD081923_TECH&utm_medium=email&utm_source=newsletter&utm_term=230819&utm_campaign=tech&sref=DPtqrPAJ#xj4y7vzkg
