Mientras el gobierno federal de EE. UU. lucha por regular significativamente la IA (o incluso por su funcionamiento), la ciudad de Nueva York está llenando la brecha de gobernanza.
La ciudad presentó esta semana un Plan de Acción de IA que el alcalde Eric Adams considera el primero de su tipo en el país. El conjunto de aproximadamente 40 iniciativas políticas está diseñado para proteger a los residentes contra daños como prejuicios o discriminación por parte de la IA. Incluye el desarrollo de estándares para la IA adquiridos por agencias municipales y nuevos mecanismos para medir el riesgo de la IA utilizados por los departamentos de la ciudad.
La regulación de la IA de Nueva York pronto podría ampliarse aún más. La concejal Jennifer Gutiérrez, presidenta del comité de tecnología del organismo, presentó hoy una legislación que crearía una Oficina de Integridad de Datos Algorítmicos para supervisar la IA en Nueva York.
Si se establece, la oficina proporcionaría un lugar para que los ciudadanos presenten quejas sobre los sistemas automatizados de toma de decisiones utilizados por las agencias públicas, funcionando como un defensor del pueblo para los algoritmos en los cinco condados. También evaluaría los sistemas de IA antes de su despliegue por parte de la ciudad en busca de prejuicios y discriminación.
Varios senadores estadounidenses han sugerido crear una nueva agencia federal para regular la IA a principios de este año, pero Gutiérrez dice que ha aprendido que no tiene sentido esperar a que se tomen medidas en Washington, DC. ‘Tenemos una responsabilidad única porque aquí vive mucha innovación’, dice. ‘Es realmente importante para nosotros tomar la iniciativa’.
Gutiérrez apoya el requisito de probar los algoritmos utilizados por el gobierno de la ciudad porque la IA está comenzando a usarse ampliamente, dice. Los departamentos de la ciudad están interesados en utilizar software de inteligencia artificial para tareas administrativas, como evaluar el riesgo de que un niño sea víctima de abuso o las tasas de aprendizaje de los estudiantes. También desconfía de la afición del alcalde Eric Adams por la tecnología, como los perros robóticos y la inteligencia artificial, para realizar llamadas automáticas en idiomas que no habla. La ciudad de Nueva York tiene reputación de ser un campo de pruebas para la tecnología de vigilancia, desde un reciente aumento en el uso de drones hasta el uso cuestionable del reconocimiento facial en viviendas y estadios, y por parte de la policía.
Nueva York estaba por delante del gobierno federal en materia de regulación de la IA incluso antes de esta semana. En 2018 se formó un grupo de trabajo de la ciudad para evaluar el uso de la tecnología. A principios de este año entró en vigor una ley que exige que se revisen los algoritmos de contratación utilizados por las empresas para detectar sesgos. Pero se han reducido algunas protecciones. En enero de 2022, Adams canceló una orden ejecutiva firmada por su predecesor, Bill de Blasio, que creaba un Oficial de Políticas y Gestión de Algoritmos para trabajar con las agencias de la ciudad en la implementación de la IA de manera equitativa. Un informe emitido por el oficial en 2020 decía que las agencias de la ciudad utilizaron 16 tipos de algoritmos que tenían un impacto potencialmente sustancial en los derechos de las personas, pero no examinaron todos los modelos de IA utilizados por el Departamento de Policía de la ciudad de Nueva York.
Gutiérrez dice que todavía no tiene un conocimiento completo de los algoritmos utilizados por las agencias de la ciudad. Una auditoría publicada en febrero por el contralor del estado de Nueva York encontró que la ciudad tiene un enfoque ad hoc e incompleto para la gobernanza de la IA. Advirtió que esto significa que la ciudad no puede ‘garantizar que el uso de la IA por parte de la ciudad sea transparente, preciso e imparcial y evite impactos dispares’.
Julia Stoyanovich, investigadora de IA y directora del Centro para una IA Responsable de la Universidad de Nueva York, ayudó a compilar ese informe y dice que apoya la legislación propuesta por Gutiérrez, siempre y cuando la agencia resultante funcione como un organismo externo e independiente. Eso se determinará si el proyecto de ley consigue patrocinadores en el concejo municipal y avanza hacia su aprobación.
Stoyanovich es menos elogioso sobre la decisión de la ciudad de publicar el Plan de Acción de IA esta semana, el mismo día en que la ciudad amplió un chatbot llamado MyCity que está diseñado para responder preguntas de las pequeñas empresas sobre aspectos como los permisos y licencias que necesitan. Le resulta problemático que el proyecto no esté sujeto a las disposiciones del Plan de Acción de IA, como buscar la opinión del público. El portavoz de la alcaldía, Jonah Allon, dice que el chatbot se lanzó al mismo tiempo para actuar como prueba de presión para el proceso de evaluación establecido en el plan, que abordará los usos actuales y futuros de la IA.
Puede que Nueva York haya sido temprano en regular la IA, pero no ha sido consistente, dice Stoyanovich. ‘Especialmente considerando que fuimos los primeros en comenzar, realmente me duele ver que no hemos avanzado mucho cinco o seis años después de que comenzamos y no hay articulación de los principios de gobernanza de la IA dentro del gobierno de la ciudad’, dice.
En los pocos lugares donde los estados, ciudades y funcionarios de EE. UU. han tomado medidas para regular la IA, la idea de exigir que los sistemas sean evaluados para evaluar el daño potencial antes de su despliegue se ha convertido en un enfoque común. Aparece en una orden ejecutiva firmada por el gobernador de California, Gavin Newsom, el mes pasado y en un acuerdo voluntario que el presidente Biden firmó con las principales empresas de inteligencia artificial en julio. Un punto común de desacuerdo es si dichas evaluaciones pueden realizarse internamente o por un tercero independiente. Se espera que la Casa Blanca publique una orden ejecutiva que se ocupe de la regulación de la IA en las próximas semanas, dijeron a WIRED fuentes familiarizadas con el asunto. Dado que la Cámara ha seguido luchando por elegir un nuevo presidente esta semana, parece poco probable que el Congreso debata o apruebe una legislación sobre IA en el corto plazo.
Fuente: https://www.wired.com/story/us-failed-to-pass-ai-regulation-new-york-city-stepping-up/?bxid=5bea086e3f92a40469433cf2&cndid=37474370&esrc=OIDC_SELECT_ACCOUNT_PAGE&source=Email_0_EDT_WIR_NEWSLETTER_0_DAILY_ZZ&utm_brand=wired&utm_campaign=aud-dev&utm_content=WIR_Dailu_101923&utm_mailing=WIR_Dailu_101923&utm_medium=email&utm_source=nl&utm_term=P7
