Regulación de algoritmos - Regulation of algorithms

No confundir con Regulación por algoritmo .

La regulación de algoritmos , o regulación algorítmica , es la creación de leyes, reglas y políticas del sector público para la promoción y regulación de algoritmos , particularmente en inteligencia artificial y aprendizaje automático . Para el subconjunto de algoritmos de IA, se utiliza el término regulación de la inteligencia artificial . El panorama normativo y de políticas para la inteligencia artificial (IA) es un problema emergente en jurisdicciones a nivel mundial, incluida la Unión Europea. La regulación de la IA se considera necesaria tanto para fomentar la IA como para gestionar los riesgos asociados, pero es un desafío. Otro tema emergente es la regulación de los algoritmos blockchain y se menciona junto con la regulación de los algoritmos de IA. Muchos países han promulgado regulaciones de comercio de alta frecuencia , que está cambiando debido al progreso tecnológico hacia el ámbito de los algoritmos de inteligencia artificial.

La motivación para la regulación de los algoritmos es la aprehensión de perder el control sobre los algoritmos , cuyo impacto en la vida humana aumenta. Varios países ya han introducido regulaciones en caso de cálculo automático de puntajes de crédito; el derecho a una explicación es obligatorio para esos algoritmos. Han surgido preocupaciones sobre el sesgo, la transparencia y la ética con respecto al uso de algoritmos en diversos dominios que van desde la justicia penal hasta la atención médica; muchos temen que la inteligencia artificial pueda replicar las desigualdades sociales existentes a lo largo de líneas de raza, clase, género y sexualidad.

Regulación de la inteligencia artificial

Artículo principal: Regulación de la inteligencia artificial.

Discusión pública

En 2016, Joy Buolamwini fundó Algorithmic Justice League después de una experiencia personal con software de detección facial sesgado para crear conciencia sobre las implicaciones sociales de la inteligencia artificial a través del arte y la investigación.

En 2017, Elon Musk abogó por la regulación de los algoritmos en el contexto del riesgo existencial de la inteligencia artificial general . Según NPR , el CEO de Tesla "claramente no estaba emocionado" de abogar por el escrutinio del gobierno que podría afectar su propia industria, pero creía que los riesgos de pasar completamente sin supervisión son demasiado altos: "Normalmente, la forma en que se establecen las regulaciones es cuando un Suceden un montón de cosas malas, hay una protesta pública y, después de muchos años, se crea una agencia reguladora para regular esa industria. Lleva una eternidad. Eso, en el pasado, ha sido malo, pero no es algo que represente un riesgo fundamental para la existencia de la civilización ".

En respuesta, algunos políticos expresaron su escepticismo sobre la conveniencia de regular una tecnología que aún está en desarrollo. En respuesta a las propuestas de Musk y de febrero de 2017 de los legisladores de la Unión Europea para regular la inteligencia artificial y la robótica, el director ejecutivo de Intel, Brian Krzanich, ha argumentado que la inteligencia artificial está en su infancia y que es demasiado pronto para regular la tecnología. En lugar de tratar de regular la tecnología en sí, algunos académicos sugieren desarrollar normas comunes que incluyan requisitos para la prueba y transparencia de los algoritmos, posiblemente en combinación con alguna forma de garantía. Una sugerencia ha sido el desarrollo de una junta de gobierno global para regular el desarrollo de la IA. En 2020, la Unión Europea publicó su borrador de documento de estrategia para promover y regular la IA.

La colusión tácita algorítmica es una práctica antimonopolio legalmente dudosa cometida por medio de algoritmos, que los tribunales no pueden procesar. Este peligro preocupa a científicos y reguladores en la UE, EE. UU. Y más allá. La comisaria europea Margrethe Vestager mencionó un ejemplo temprano de colusión tácita algorítmica en su discurso sobre "Algoritmos y colusión" el 16 de marzo de 2017, que se describe a continuación:

“Hace unos años, dos empresas vendían un libro de texto llamado The Making of a Fly. Uno de esos vendedores usó un algoritmo que esencialmente igualaba el precio de su rival. Ese rival tenía un algoritmo que siempre fijaba un precio 27% más alto que el primero. El resultado fue que los precios siguieron subiendo en espiral, hasta que finalmente alguien se dio cuenta de lo que estaba pasando y ajustó el precio manualmente. En ese momento, el libro se vendía, o mejor dicho, no se vendía, por 23 millones de dólares el ejemplar ".

En 2018, los Países Bajos emplearon un sistema algorítmico SyRI (Systeem Risico Indicatie) para detectar a los ciudadanos que se percibían como de alto riesgo de cometer fraude a la asistencia social , que silenciosamente señaló a miles de personas a los investigadores. Esto provocó una protesta pública. El tribunal de distrito de La Haya cerró Siria haciendo referencia al artículo 8 del Convenio Europeo de Derechos Humanos (CEDH).

En 2020, los algoritmos que asignan calificaciones de exámenes a los estudiantes en el Reino Unido provocaron una protesta abierta bajo el lema "A la mierda el algoritmo". Esta protesta tuvo éxito y se recuperaron las notas.

Implementación

Las leyes y regulaciones de IA se pueden dividir en tres temas principales, a saber, la gobernanza de los sistemas de inteligencia autónomos, la responsabilidad y la rendición de cuentas por los sistemas y las cuestiones de privacidad y seguridad. El desarrollo de estrategias del sector público para la gestión y regulación de la IA se ha considerado cada vez más necesario a nivel local, nacional e internacional y en una variedad de campos, desde la gestión del servicio público hasta la aplicación de la ley, el sector financiero, la robótica, el ejército, y derecho internacional. Hay muchas preocupaciones de que no hay suficiente visibilidad y monitoreo de la IA en estos sectores. En el sector financiero, por ejemplo, se ha pedido a la Oficina de Protección Financiera del Consumidor que examine más de cerca el código fuente y los algoritmos al realizar auditorías de los datos no públicos de las instituciones financieras.

En los Estados Unidos, el 7 de enero de 2019, luego de una Orden Ejecutiva sobre 'Mantener el liderazgo estadounidense en inteligencia artificial', la Oficina de Política de Ciencia y Tecnología de la Casa Blanca publicó un borrador de Guía para la Regulación de Aplicaciones de Inteligencia Artificial , que incluye diez principios para Agencias de los Estados Unidos a la hora de decidir si regular la IA y cómo hacerlo. En respuesta, el Instituto Nacional de Estándares y Tecnología ha publicado un documento de posición, la Comisión de Seguridad Nacional sobre Inteligencia Artificial ha publicado un informe provisional y la Junta de Innovación de Defensa ha emitido recomendaciones sobre el uso ético de la IA.

En 2016, China publicó un documento de posición cuestionando la idoneidad del derecho internacional existente para abordar la eventualidad de armas totalmente autónomas , convirtiéndose en el primer miembro permanente del Consejo de Seguridad de la ONU en abordar el tema y dando lugar a propuestas de regulación global . En los Estados Unidos, la Comisión de Seguridad Nacional sobre Inteligencia Artificial proporciona la dirección sobre la regulación de la IA relacionada con la seguridad.

Regulación de algoritmos blockchain

Ver también: Bitcoin § Situación legal, impuestos y regulación ; Legalidad de bitcoin por país o territorio ; Ley de tecnología de contabilidad distribuida ; y contrato inteligente

Los sistemas Blockchain proporcionan registros transparentes y fijos de transacciones y, por lo tanto, contradicen el objetivo del GDPR europeo , que es brindar a las personas el control total de sus datos privados.

Al implementar el Decreto sobre el desarrollo de la economía digital , Bielorrusia se ha convertido en el primer país en legalizar los contratos inteligentes . Se considera que el abogado bielorruso Denis Aleinikov es el autor de un concepto legal de contrato inteligente introducido por el decreto. Existen sólidos argumentos de que las leyes estatales de EE. UU. Existentes ya son una base sólida para la aplicabilidad de los contratos inteligentes ; sin embargo , Arizona , Nevada , Ohio y Tennessee han modificado sus leyes específicamente para permitir la aplicabilidad de los contratos basados ​​en blockchain.

En la cultura popular

En 1942, el autor Isaac Asimov abordó la regulación de los algoritmos al presentar las tres leyes ficticias de la robótica :

  1. Un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daños.
  2. Un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley.
  3. Un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o Segunda Ley.

La principal alternativa a la regulación es la prohibición, y actualmente es muy poco probable que se prohíban los algoritmos. Sin embargo, en Frank Herbert 's Duna universo , pensando máquinas es un término colectivo para la inteligencia artificial , que fueron completamente destruido y prohibido después de una revuelta conocida como la Jihad Butleriano :

JIHAD, BUTLERIAN: (ver también Gran Revuelta) - la cruzada contra las computadoras, las máquinas pensantes y los robots conscientes comenzó en 201 BG y concluyó en 108 BG Su mandamiento principal permanece en la Biblia OC como "No harás una máquina similar de una mente humana ".

Ver también

Referencias