Se acaba de emitir una orden ejecutiva de la Casa Blanca con respecto al “uso de inteligencia artificial confiable en el gobierno”. Dejando de lado la presunción sin mérito de la propia confiabilidad del gobierno y de que es el software el que tiene problemas de confianza, la orden es casi en su totalidad aire caliente.
La EO es como otras en que se limita a lo que un presidente puede forzar perentoriamente a las agencias federales a hacer, y eso no es mucho, prácticamente hablando. Éste “indica a las agencias federales que se guíen” por nueve principios, lo que revela el nivel de impacto allí mismo. Por favor, agencias, ¡déjese guiar!
Y luego, por supuesto, se exceptúan todas las actividades militares y de seguridad nacional, que es donde los sistemas de inteligencia artificial son más peligrosos y la supervisión es más importante. A nadie le preocupa lo que está haciendo la NOAA con la inteligencia artificial, pero están muy preocupados por lo que están haciendo las agencias de tres letras y el Pentágono. (Tienen sus propias reglas autoimpuestas).
Los principios son una especie de lista de deseos. La IA utilizada por los federales debe ser:
legal; con propósito y orientado al desempeño; precisa, confiable y efectiva; seguro, protegido y resistente; comprensible; responsable y rastreable; monitoreado regularmente; transparente; y responsable.
Desafiaría a cualquiera a encontrar un despliegue significativo de IA que sea todas estas cosas, en cualquier parte del mundo. Cualquier agencia que afirme que una IA o un sistema de aprendizaje automático que utilizan se adhiere a todos estos principios, tal como se detallan en la EO, debe tratarse con extremo escepticismo.
No es que los principios en sí mismos sean malos o inútiles; sin duda, es importante que una agencia pueda cuantificar los riesgos al considerar el uso de la IA para algo y que exista un proceso para monitorear sus efectos. Pero una orden ejecutiva no logra esto. Las leyes sólidas, probablemente comenzando a nivel de ciudad y estado, ya han demostrado lo que es exigir la responsabilidad de la IA, y aunque es poco probable que aparezca una ley federal en el corto plazo, esto no reemplaza un proyecto de ley integral. Es demasiado obvio en casi todo. Además, muchas agencias ya adoptaron “principios” como estos años atrás.
De hecho, lo único que hace la OE es obligar a cada agencia a producir una lista de todos los usos que le está dando a la IA, independientemente de cómo se defina. Por supuesto, pasará más de un año antes de que veamos eso.
Dentro de los 60 días posteriores al pedido, las agencias elegirán el formato para este inventario de IA; 180 días después de eso, se debe completar el inventario; 120 días después de eso, el inventario debe completarse y revisarse para verificar su coherencia con los principios; planes para alinear los sistemas con ellos que las agencias deben “esforzarse” por lograr dentro de 180 días más; mientras tanto, dentro de los 60 días siguientes a la finalización de los inventarios, deben compartirse con otras agencias; luego, dentro de los 120 días posteriores a su finalización, deben compartirse con el público (menos cualquier cosa sensible para la aplicación de la ley, seguridad nacional, etc.).
En teoría, podríamos tener esos inventarios en un mes, pero en la práctica estamos viendo aproximadamente un año y medio, momento en el que tendremos una instantánea de las herramientas de inteligencia artificial de la administración anterior, con todos los jugosos bits eliminados. a su discreción. Aún así, podría ser una lectura interesante dependiendo de qué incluye exactamente.
Esta orden ejecutiva es, como otras de su tipo, un intento de esta Casa Blanca de aparecer como un líder activo en algo que está casi completamente fuera de sus manos. Sin duda, desarrollar y desplegar la IA debe realizarse de acuerdo con principios comunes, pero incluso si esos principios pudieran establecerse de arriba hacia abajo, este gesto suelto y ligeramente vinculante que, en cierto modo, hace que algunas agencias tengan que meñique. Jurar que pensar mucho en ellos no es la forma de hacerlo.
Source: http://feedproxy.google.com/~r/Techcrunch/~3/gw8et3pjbBs/
