Instituto del Futuro de la Vida - Future of Life Institute
Coordenadas : 42.3736158 ° N 71.1097335 ° W 42 ° 22′25 ″ N 71 ° 06′35 ″ W /
 | |
| Abreviatura | FLI |
|---|---|
| Formación | Marzo de 2014 |
| Fundadores |
|
| Escribe | Instituto de investigación sin fines de lucro |
| 47-1052538 | |
| Estatus legal | Activo |
| Objetivo | Reducción del riesgo existencial , particularmente de inteligencia artificial avanzada |
| Localización | |
presidente |
Max Tegmark |
| Sitio web | futureoflife.org |
El Future of Life Institute ( FLI ) es una organización sin fines de lucro que trabaja para reducir los riesgos catastróficos y existenciales globales que enfrenta la humanidad, particularmente el riesgo existencial de la inteligencia artificial avanzada (IA). El trabajo del Instituto se compone de tres ejes principales: concesión de subvenciones para la reducción de riesgos, divulgación educativa y promoción dentro de las Naciones Unidas, el gobierno de los Estados Unidos y las instituciones de la Unión Europea. Entre sus fundadores se encuentran el cosmólogo del MIT Max Tegmark y el cofundador de Skype , Jaan Tallinn , y su junta de asesores incluye al empresario Elon Musk .
Misión
La misión de FLI es reducir el riesgo catastrófico y existencial global de tecnologías poderosas. FLI se centra particularmente en los riesgos potenciales para la humanidad derivados del desarrollo de inteligencia artificial general superinteligente o de nivel humano (AGI), pero también trabaja en los riesgos de la biotecnología, las armas nucleares y el cambio climático. El trabajo del Instituto se compone de subvenciones para la reducción de riesgos, la divulgación educativa y la promoción dentro de las Naciones Unidas, el gobierno de los Estados Unidos y las instituciones de la Unión Europea.
Gente clave
El Instituto fue fundado en marzo de 2014 por el cosmólogo del MIT Max Tegmark , el cofundador de Skype Jaan Tallinn , la científica investigadora de DeepMind Viktoriya Krakovna, la investigadora postdoctoral de la Universidad de Tufts Meia Chita-Tegmark y el físico de UCSC Anthony Aguirre . El Comité Asesor Científico del Instituto, compuesto por 14 personas, incluye a los informáticos Stuart J. Russell y Francesca Rossi , el biólogo George Church , el cosmólogo Saul Perlmutter , la astrofísica Sandra Faber , el físico teórico Frank Wilczek , el empresario Elon Musk y los actores y comunicadores científicos Alan Alda y Morgan Freeman. (así como el cosmólogo Stephen Hawking antes de su muerte en 2018).
Conferencias
En 2014, el Future of Life Institute celebró su evento inaugural en el MIT : un panel de discusión sobre "El futuro de la tecnología: beneficios y riesgos", moderado por Alan Alda . Los panelistas fueron el biólogo sintético George Church , el genetista Ting Wu , el economista Andrew McAfee , el físico y premio Nobel Frank Wilczek y el cofundador de Skype, Jaan Tallinn .
Desde 2015, FLI ha organizado conferencias semestrales que reúnen a los principales creadores de inteligencia artificial de la academia y la industria. Hasta la fecha se han realizado las siguientes conferencias:
- Conferencia "El futuro de la IA: Oportunidades y desafíos" en Puerto Rico (2015). El objetivo era identificar direcciones de investigación prometedoras que puedan ayudar a maximizar los beneficios futuros de la IA. En la conferencia, el Instituto hizo circular una carta abierta sobre la seguridad de la IA que posteriormente fue firmada por Stephen Hawking , Elon Musk y muchos expertos en inteligencia artificial.
- La conferencia Beneficial AI en Asilomar, California (2017), una reunión privada de lo que The New York Times llamó "grandes enemigos de la IA" (incluidos Yann LeCun , Elon Musk y Nick Bostrom ). El instituto publicó un conjunto de principios para el desarrollo responsable de la IA que surgió de la discusión en la conferencia, firmado por Yoshua Bengio , Yann LeCun y muchos otros investigadores de IA. Estos principios influyeron en la Regulación de la inteligencia artificial y las iniciativas posteriores, como los Principios de la OCDE sobre Inteligencia Artificial.
- La beneficiosa conferencia AGI en Puerto Rico (2019). Esta reunión se centró en preguntas a largo plazo para garantizar que la Inteligencia General Artificial sea beneficiosa para la humanidad.
Programa de investigación global
El programa de investigación de FLI comenzó en 2015 con una donación inicial de $ 10 millones de Elon Musk. A diferencia de la investigación típica de IA, este programa se centra en hacer que la IA sea más segura o más beneficiosa para la sociedad, en lugar de simplemente más poderosa. En esta ronda inicial, se otorgó un total de $ 7 millones a 37 proyectos de investigación. En julio de 2021, FLI anunció que lanzaría un nuevo programa de subvenciones de $ 25 millones con fondos del programador ruso-canadiense Vitalik Buterin .
En los medios
- "La lucha por definir cuándo la IA es de 'alto riesgo'" en Wired .
- "Las armas autónomas letales existen; deben ser prohibidas" en IEEE Spectrum .
- "Estados Unidos y sus aliados protestan contra las conversaciones de la ONU para prohibir las armas nucleares" en The New York Times .
- "¿Es la inteligencia artificial una amenaza?" en The Chronicle of Higher Education , incluidas entrevistas con los fundadores de FLI, Max Tegmark , Jaan Tallinn y Viktoriya Krakovna.
- "¿Pero qué significaría el fin de la humanidad para mí?", Una entrevista con Max Tegmark sobre las ideas detrás de FLI en The Atlantic .
- Michael del Castillo (15 de enero de 2015). "La marca de inicio no oculta los matices apocalípticos de la carta firmada por Elon Musk" . Diario de negocios advenedizo .
Ver también
- Instituto del Futuro de la Humanidad
- Centro de Estudio del Riesgo Existencial
- Riesgo catastrófico global
- Centro de Leverhulme para el futuro de la inteligencia
- Instituto de Investigación de Inteligencia Artificial
- El precipicio: riesgo existencial y el futuro de la humanidad