Dos años después de que Chatgpt conquistara el mundo, la inteligencia artificial generativa parece haberse topado con un obstáculo. Los costos energéticos de construir y utilizar modelos más grandes están aumentando vertiginosamente y los avances son cada vez más difíciles. Afortunadamente, los investigadores y empresarios están buscando formas de sortear estas limitaciones. Su ingenio no sólo transformará la IA. Determinará qué empresas prevalecerán, si los inversores ganarán y qué país dominará la tecnología.
Los grandes modelos lingüísticos tienen un gran apetito por la electricidad. La energía utilizada para entrenar el modelo gpt-4 de Openai podría haber alimentado 50 hogares estadounidenses durante un siglo. Y a medida que los modelos crecen, los costos aumentan rápidamente. Según una estimación, entrenar los modelos más grandes de la actualidad cuesta 100 millones de dólares; la próxima generación podría costar mil millones de dólares y la siguiente, 10 mil millones de dólares. Además de esto, pedirle a un modelo que responda una consulta tiene un costo computacional: entre 2.400 y 223.000 dólares para resumir los informes financieros de las 58.000 empresas públicas del mundo. Con el tiempo, esos costos de “inferencia”, cuando se suman, pueden exceder el costo de la capacitación. Si es así, es difícil ver cómo la IA generativa podría llegar a ser económicamente viable.
Esto asusta a los inversores, muchos de los cuales han apostado fuerte por la IA. Han acudido en masa a Nvidia, que diseña los chips más utilizados para los modelos de IA. Su capitalización de mercado ha aumentado en 2,5 billones de dólares en los últimos dos años. Los capitalistas de riesgo y otros han invertido casi 95.000 millones de dólares en nuevas empresas de inteligencia artificial desde principios de 2023. Según se informa, Openai, el creador de Chatgpt, busca una valoración de 150.000 millones de dólares, lo que la convertiría en una de las empresas de tecnología privadas más grandes del mundo.
No hay necesidad de entrar en pánico. Muchas otras tecnologías han enfrentado límites y han prosperado gracias al ingenio humano. La dificultad de llevar gente al espacio dio lugar a innovaciones que ahora también se utilizan en la Tierra. La crisis de los precios del petróleo en la década de 1970 fomentó la eficiencia energética y, en algunos países, medios alternativos de generación, incluida la nuclear. Tres décadas después, el fracking permitió alcanzar reservas de petróleo y gas cuya extracción antes no era económica. Como consecuencia de ello, Estados Unidos produce ahora más petróleo que cualquier otro país.
Los avances en la IA ya están mostrando cómo las limitaciones pueden estimular la creatividad. Como expone nuestro Technology Quarterly de esta semana, las empresas están desarrollando chips especialmente para las operaciones necesarias para ejecutar grandes modelos de lenguaje. Esta especialización significa que pueden funcionar de manera más eficiente que los procesadores de uso más general, como los de Nvidia. Alphabet, Amazon, Apple, Meta y Microsoft están diseñando sus propios chips de IA. Se ha invertido más dinero en la financiación de nuevas empresas de chips AI en el primer semestre de este año que en los tres últimos juntos.
Los desarrolladores también están realizando cambios en el software de inteligencia artificial. Los modelos más grandes que dependen de la fuerza bruta del poder computacional están dando paso a sistemas más pequeños y especializados. El modelo más nuevo de Openai, o1, está diseñado para razonar mejor, pero no para generar texto. Otros fabricantes están empleando cálculos menos onerosos para hacer un uso más eficiente de los chips. Mediante enfoques inteligentes, como el uso de una combinación de modelos, cada uno adecuado a un tipo diferente de problema, los investigadores han reducido drásticamente el tiempo de procesamiento. Todo esto cambiará la forma en que opera la industria.
Los inversores y los gobiernos se han acostumbrado a la idea de que, entre las empresas tecnológicas, el titular tiene una ventaja natural. Por cierto, esa suposición ya no puede darse por sentada. Hoy en día, Nvidia vende cuatro quintas partes de los chips de IA del mundo. Pero otros rivales más especializados bien podrían comerse su parte. Los procesadores de inteligencia artificial de Google ya son los terceros más utilizados en los centros de datos de todo el mundo.
Es posible que Openai haya lanzado el modelo pionero de lenguaje grande. Pero a medida que han llegado las limitaciones de recursos, otros grandes fabricantes de modelos como Anthropic, Google y Meta se están poniendo al día. Aunque todavía existe una brecha entre ellos y los modelos de segundo nivel, como el Mistral de Francia, es posible que se cierre. Si continúa la tendencia hacia modelos más pequeños y especializados, entonces el universo de la IA podría contener una constelación de modelos, en lugar de sólo unas pocas superestrellas.
Esto significa que a los inversores les espera un viaje difícil. Sus apuestas sobre los líderes actuales parecen menos seguras. Nvidia podría perder terreno frente a otros fabricantes de chips; Openai podría ser suplantado. Las grandes empresas tecnológicas están acaparando talento y muchas de ellas fabrican dispositivos a través de los cuales, esperan, los consumidores lleguen a sus asistentes de inteligencia artificial. Pero la competencia entre ellos es feroz. Pocas empresas cuentan todavía con una estrategia para obtener beneficios de la IA generativa. Incluso si la industria termina perteneciendo a un ganador, no está claro quién será.
Los gobiernos también tendrán que cambiar su forma de pensar. Su afición por la política industrial se centra en las limosnas. Pero el progreso en IA se trata tanto de tener el talento adecuado y un ecosistema floreciente como de acumular capital y potencia informática. Los países de Europa y Medio Oriente pueden descubrir que el duro trabajo de cultivar el ingenio es tan importante como comprar chips de computadora. Estados Unidos, por el contrario, está bendecido con chips, talento y iniciativa. Tiene muchas de las mejores universidades del mundo y, en San Francisco y Silicon Valley, un grupo de talentos envidiable y de larga data.
Apartado
Sin embargo, el intento de Estados Unidos de frenar a China está resultando contraproducente. Con la esperanza de evitar que un rival estratégico obtenga la ventaja en una tecnología crucial, ha tratado de restringir el acceso de China a chips de última generación. Al hacerlo, ha estimulado involuntariamente el crecimiento de un sistema de investigación en China que sobresale en solucionar limitaciones.
Cuando el ingenio cuenta más que la fuerza bruta, una mejor manera de asegurar el liderazgo de Estados Unidos sería atraer y retener a los mejores investigadores de otros lugares, por ejemplo mediante reglas de visa más fáciles. La era de la IA todavía está en sus inicios y hay muchas cosas que aún son inciertas. Pero los avances que la IA necesita surgirán dando a las ideas y al talento el espacio para florecer en casa, sin tratar de cerrar a los rivales en el extranjero.
Fuente: https://www.economist.com/leaders/2024/09/19/the-breakthrough-ai-needs