{"id":156,"date":"2017-02-04T23:45:08","date_gmt":"2017-02-04T23:45:08","guid":{"rendered":"http:\/\/nopixels.com\/me\/?p=156"},"modified":"2017-02-04T23:45:08","modified_gmt":"2017-02-04T23:45:08","slug":"asilomar-ai-principles-principios-de-asilomar","status":"publish","type":"post","link":"https:\/\/nopixels.com\/me\/asilomar-ai-principles-principios-de-asilomar\/","title":{"rendered":"ASILOMAR AI PRINCIPLES \/ Principios de Asilomar"},"content":{"rendered":"

These principles were developed in conjunction with the 2017 Asilomar conference<\/a> (videos here<\/a>), through the process described here<\/a>.<\/p>\n

Future of Life Institute\u00a0<\/a><\/p>\n

Los principios de Asilomar:<\/strong><\/p>\n

1) Meta de la investigaci\u00f3n: el objetivo de la investigaci\u00f3n de la IA no deber\u00eda ser crear inteligencia sin dirigir, sino inteligencia beneficiosa.<\/em><\/strong><\/p>\n

2) Financiaci\u00f3n de la investigaci\u00f3n: la inversi\u00f3n en IA deber\u00eda ir acompa\u00f1ada de fondos para investigar en asegurar su uso beneficioso, incluyendo cuestiones espinosas sobre ciencias de la computaci\u00f3n, econom\u00eda, legislaci\u00f3n, \u00e9tica y estudios sociales.<\/em><\/strong><\/p>\n

3) Enlace entre ciencia y pol\u00edtica: deber\u00eda haber un intercambio constructivo y sano entre los investigadores de IA y los legisladores.<\/em><\/strong><\/p>\n

4) Cultura de la investigaci\u00f3n: una cultura de cooperaci\u00f3n, confianza y transparencia deber\u00eda ser fomentada entre los investigadores y desarrolladores de IA.<\/em><\/strong><\/p>\n

5) Evitar las carreras: los equipos que est\u00e9n desarrollando sistemas de IA deber\u00edan cooperar activamente para evitar chapuzas en los est\u00e1ndares de seguridad.<\/em><\/strong><\/p>\n

6) Seguridad: los sistemas de IA deber\u00edan ser seguros a lo largo de su vida operativa, y verificables donde sea aplicable y posible.<\/em><\/strong><\/p>\n

7) Transparencia en los fallos: si un sistema de IA causa da\u00f1o deber\u00eda ser posible determinar por qu\u00e9.<\/em><\/strong><\/p>\n

8) Transparencia judicial: cualquier intervenci\u00f3n de un sistema aut\u00f3nomo en una decisi\u00f3n deber\u00eda ir acompa\u00f1ada de una explicaci\u00f3n satisfactoria y auditable por parte de una autoridad humana competente.<\/em><\/strong><\/p>\n

9) Responsabilidad: los dise\u00f1adores y desarrolladores de sistemas avanzados de IA son depositarios de las implicaciones morales de su uso, mal uso y acciones, con la responsabilidad y oportunidad de dar forma a dichas implicaciones.<\/em><\/strong><\/p>\n

10) Alineaci\u00f3n de valores: los sistemas de IA altamente aut\u00f3nomos deber\u00edan ser dise\u00f1ados para que sus metas y comportamientos puedan alinearse con los valores humanos a lo largo de sus operaciones.<\/em><\/strong><\/p>\n

11) Valores humanos: los sistemas de IA deber\u00edan ser dise\u00f1ados y operados para que sean compatibles con los ideales de dignidad humana, derechos, libertades y diversidad cultural.<\/em><\/strong><\/p>\n

12) Privacidad personal: la gente deber\u00eda tener el derecho de acceder, gestionar y controlar los datos que generan, dando a los sistemas de IA el poder de analizar y utilizar esa informaci\u00f3n.<\/em><\/strong><\/p>\n

13) Libertad y privacidad: la aplicaci\u00f3n de la IA a los datos personales no puede restringir de forma poco razonable la libertad, real o sentida, de las personas.<\/em><\/strong><\/p>\n

14) Beneficio compartido: las tecnolog\u00edas de IA deber\u00edan beneficiar y fortalecer a tanta gente como sea posible.<\/em><\/strong><\/p>\n

15) Prosperidad compartida: la prosperidad econ\u00f3mica creada por la IA deber\u00eda ser compartida ampliamente, para el beneficio de toda la Humanidad.<\/em><\/strong><\/p>\n

16) Control humano: los seres humanos deber\u00edan escoger c\u00f3mo y si delegan decisiones a los sistemas de IA para completar objetivos escogidos previamente.<\/em><\/strong><\/p>\n

17) Sin subversi\u00f3n: el poder conferido por el control de sistemas de IA altamente avanzados deber\u00eda respetar y mejorar, m\u00e1s que subvertir, los procesos sociales y c\u00edvicos de los que depende la salud de la sociedad.<\/em><\/strong><\/p>\n

18) Carrera armament\u00edstica: deber\u00eda ser evitada cualquier carrera armament\u00edstica de armas aut\u00f3nomas letales.<\/em><\/strong><\/p>\n

19) Capacidad de precauci\u00f3n: al no haber consenso, deber\u00edamos evitar las asunciones sobre los l\u00edmites superiores de las futuras capacidades de la IA.<\/em><\/strong><\/p>\n

20) Importancia: la IA avanzada podr\u00eda representar un profundo cambio en la historia de la vida en la Tierra, y deber\u00eda ser planificada y gestionada con el cuidado y los recursos adecuados.<\/em><\/strong><\/p>\n

21) Riesgos: los riesgos asociados a los sistemas de IA, especialmente los catastr\u00f3ficos o existenciales, deben estar sujetos a planificaci\u00f3n y esfuerzos de mitigaci\u00f3n equiparables a su impacto esperado.<\/em><\/strong><\/p>\n

22) Automejora recursiva: los sistemas de IA dise\u00f1ados para automejorarse recursivamente o autorreplicarse de una forma que pudiera llevar al r\u00e1pido incremento en su calidad o cantidad deben estar sujetos a unas estrictas medidas de control y seguridad.<\/em><\/strong><\/p>\n

23) Bien com\u00fan: la superinteligencia deber\u00eda ser desarrollada s\u00f3lo en servicio de unos ideales \u00e9ticos ampliamente compartidos y para beneficio de toda la Humanidad, m\u00e1s que para un Estado u organizaci\u00f3n.<\/em><\/strong><\/p>\n

\n
<\/div>\n<\/article>\n","protected":false},"excerpt":{"rendered":"

These principles were developed in conjunction with the 2017 Asilomar conference (videos here), through the process described here. Future of Life Institute\u00a0 Los principios de Asilomar: 1) Meta de la investigaci\u00f3n: el objetivo de la …<\/p>\n","protected":false},"author":1,"featured_media":157,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"amp_status":""},"categories":[4,29,28,24],"tags":[30],"_links":{"self":[{"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/posts\/156"}],"collection":[{"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/comments?post=156"}],"version-history":[{"count":1,"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/posts\/156\/revisions"}],"predecessor-version":[{"id":159,"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/posts\/156\/revisions\/159"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/media\/157"}],"wp:attachment":[{"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/media?parent=156"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/categories?post=156"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/nopixels.com\/me\/wp-json\/wp\/v2\/tags?post=156"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}