{"id":2508,"date":"2023-06-21T12:12:01","date_gmt":"2023-06-21T15:12:01","guid":{"rendered":"https:\/\/icc.fcen.uba.ar\/?p=2508"},"modified":"2023-08-23T12:02:34","modified_gmt":"2023-08-23T15:02:34","slug":"hacia-una-inteligencia-artificial-mas-regulada-y-confiable","status":"publish","type":"post","link":"https:\/\/icc.fcen.uba.ar\/en\/hacia-una-inteligencia-artificial-mas-regulada-y-confiable\/","title":{"rendered":"Hacia una inteligencia artificial m\u00e1s regulada y confiable"},"content":{"rendered":"

El actual desarrollo de aplicaciones en inteligencia artificial (IA) nos ubica en un punto de inflexi\u00f3n, ya que se trata de aplicaciones cada vez m\u00e1s aut\u00f3nomas que podr\u00edan tomar decisiones cr\u00edticas sin una intervenci\u00f3n humana. Concientizar sobre el poder de la IA y la necesidad de regular sus diversos usos, es uno de los grandes desaf\u00edos que atraviesan nuestras sociedades. En este contexto, investigadores del ICC trabajan en diferentes proyectos para promover los aspectos \u00e9ticos y regulatorios de la IA.<\/b><\/p>\n

Los recientes avances en computaci\u00f3n en general, y muy en particular, en inteligencia artificial, nos ubican en el umbral de un nuevo punto de inflexi\u00f3n en la historia de la humanidad. No ser\u00eda descabellado pensar que muy pronto las personas podr\u00edan confiar en la gesti\u00f3n del medio ambiente, econom\u00eda, seguridad, infraestructura, producci\u00f3n de alimentos, atenci\u00f3n m\u00e9dica y, en gran medida, actividades profesionales, laborales y personales, a sistemas inform\u00e1ticos artificialmente inteligentes.<\/span><\/p>\n

En este aspecto, investigadores del ICC trabajan arduamente en el desarrollo de proyectos que buscan lograr una regulaci\u00f3n de los sistemas de IA y generar recomendaciones para un uso m\u00e1s confiable de estos sistemas. \u201c<\/span>Nuestros proyectos est\u00e1n orientados a discutir y generar conciencia de que el uso de la IA requiere ciertas regulaciones, tomar conciencia de que hay ciertos riesgos de usarla indebidamente y de que hay que fijarle ciertos l\u00edmites. Al mismo tiempo, las cuestiones \u00e9ticas de la IA se traducen en c\u00f3mo medir que un sistema se comporte bien o no, que est\u00e9 bien entrenado, que sus datos no est\u00e9n sesgados y que las respuestas que provee sean estad\u00edsticamente relevantes respecto al objetivo propuesto<\/span><\/i>\u201d, se\u00f1ala <\/span>Ricardo Rodriguez<\/b>, Investigador del ICC y Doctor en Ciencias de la Computaci\u00f3n.<\/span><\/p>\n

Rodriguez aclara que desarrolla estas iniciativas en conjunto con Vanina Mart\u00ednez, investigadora del ICC y del IIIA-CSIC de la Universidad Aut\u00f3noma de Barcelona. Y que el ejemplo m\u00e1s concreto de los riesgos de estos sistemas es el uso de la IA en armamentismo.\u00a0<\/span><\/p>\n

\"\"En este sentido, los sistemas de armas aut\u00f3nomas letales (<\/span>Lethal Autonomous Weapons Systems<\/span><\/i>) son aquellos dise\u00f1adas para realizar ataques a humanos o territorios ocupados por humanos: pueden ser drones, tanques, aviones u otros dispositivos que, potenciados por inteligencia artificial, sean capaces de matar sin que haya intervenci\u00f3n humana en este proceso.<\/span><\/p>\n

\u201c<\/span>Comenzamos a investigar el uso de la IA en armas de guerra cuando organizamos el congreso internacional IJCAI en Buenos Aires, en el a\u00f1o 2015. En aquella oportunidad se lanz\u00f3 desde la comunidad internacional a la sociedad una carta abierta pidiendo la prohibici\u00f3n de los sistemas de armas aut\u00f3nomas y se\u00f1alando sus peligros<\/span><\/i>\u201d, puntualiza el investigador del Instituto.<\/span><\/p>\n

En paralelo, el comit\u00e9 de discusi\u00f3n de armas convencionales (<\/span>Weapons Conventional Committe<\/span><\/i>, WCC) de Naciones Unidas trabaja en un protocolo para el uso de IA en armamentismo aplicable a los Estados, que incluya los elementos b\u00e1sicos que describen un arma aut\u00f3noma de este estilo. En este sentido, Rodriguez afirma que la inteligencia artificial es una tecnolog\u00eda de prop\u00f3sito general, por lo que es necesario otorgarle una especificidad concreta a los problemas de discusi\u00f3n actual. \u201c<\/span>Cuando hubo que discutir sobre armas de racimo o bombas antipersonales, la discusi\u00f3n era m\u00e1s concreta porque el artefacto de destrucci\u00f3n es m\u00e1s claro. Pero cuando hubo que discutir sobre armas qu\u00edmicas o biol\u00f3gicas la cuesti\u00f3n se complic\u00f3, porque a veces los l\u00edmites de cu\u00e1ndo es un desarrollo para uso pac\u00edfico o b\u00e9lico son poco claros. Y con la IA suele pasar exactamente lo mismo<\/span><\/i>\u201d.<\/span><\/p>\n

Ricardo Rodriguez y Vanina Mart\u00ednez forman parte de la organizaci\u00f3n \u201c<\/span>Stop Killer Robots<\/span><\/i>\u201d (campa\u00f1a para detener a los robots asesinos), donde ayudan a orientar la posici\u00f3n t\u00e9cnica de las discusiones. A principios de este a\u00f1o participaron de una reuni\u00f3n en Costa Rica, que agrup\u00f3 a todos los pa\u00edses latinoamericanos, para recomendar fuertemente a la WCC de Naciones Unidas a que avance en la discusi\u00f3n sobre las regulaciones de IA en usos militares. Al mismo tiempo, Rodriguez y Mart\u00ednez participan de todas las discusiones sobre el uso confiable en IA, aspectos \u00e9ticos y c\u00f3mo generar est\u00e1ndares y regulaciones a la IA.<\/span><\/p>\n

Por otra parte, los investigadores del ICC participaron en la publicaci\u00f3n de \u201c<\/span>Aportes al debate del uso de IA para aplicaciones armamentistas<\/span><\/a>\u201d y en el libro \u201cInteligencia artificial y sistemas de armas aut\u00f3nomas: Disrupci\u00f3n de poder y nuevos desaf\u00edos en un escenario internacional incierto\u201d (CEPI-UBA). En estas publicaciones, ambos autores incluyen cuatro principios de la IA aplicada a los sistemas de armas aut\u00f3nomas: 1. Previsibilidad (anticipar los resultados o efectos del sistema); 2. Comprensi\u00f3n (interpretabilidad intr\u00ednseca del sistema y grado en que una persona puede comprender el comportamiento del sistema o por qu\u00e9 el sistema hace lo que hace); 3. Justificaci\u00f3n (los sistemas deben ser auditables tanto en cuanto a c\u00f3digo como a datos y las decisiones de dise\u00f1o deben ser expl\u00edcitas) y 4. Explicaci\u00f3n (capacidad del sistema de IA de poder ofrecer\/comunicar a su usuario explicaciones para su razonamiento o accionar en t\u00e9rminos adecuados, de manera que el usuario pueda entenderlas).<\/span><\/p>\n

En cuanto al escenario local, Rodriguez aclara que en numerosas oportunidades los investigadores del ICC especializados en IA son consultados por los legisladores argentinos para participar en los debates del Congreso Nacional sobre uso y regulaci\u00f3n de la inteligencia artificial. \u201c<\/span>Argentina est\u00e1 intentando hacer un esfuerzo, aunque las acciones est\u00e1n desarticuladas entre s\u00ed. Acaba de salir en el<\/span><\/i> Bolet\u00edn Oficial<\/span><\/i><\/a> una declaraci\u00f3n favorable respecto al documento de la UNESCO sobre recomendaciones para una IA fiable, d\u00e1ndole un estatus nacional, documento que fue votado en la Asamblea Ordinaria en 2021. A principios de 2022 el Gobierno Argentino firm\u00f3 la<\/span><\/i> Declaraci\u00f3n de Toronto<\/span><\/i><\/a>, mediante la cual m\u00e1s de 50 Estados acordaron declarar ciertas obligaciones para no violentar el uso de la IA en contra de los derechos individuales. Adem\u00e1s todas estas iniciativas requieren una nueva Ley de Protecci\u00f3n de Datos Personales, ley que nuestro pa\u00eds est\u00e1 intentado reformar desde hace tiempo para adaptarla a las transformaciones actuales<\/span><\/i>\u201d, describe el investigador.<\/span><\/p>\n

Tambi\u00e9n se destaca el cap\u00edtulo generado en el X Encuentro Interacad\u00e9mico 2021, en el marco de la Academia Nacional de Ciencias Exactas, F\u00edsicas y Naturales, \u201c<\/span>Desmitificando la Inteligencia Artificial\u201d del libro <\/span>\u201cInteligencia artificial: una mirada multidisciplinaria\u201d<\/span><\/a>. Autores: Laura Aci\u00f3n, Laura Alonso Alemany, Enzo Ferrante, Eric L\u00fctzow Holm, Vanina Mart\u00ednez, Diego H. Milone, Ricardo Rodriguez, Guillermo Simari y Sebasti\u00e1n Uchitel. Y el reciente documental de TEC y Canal Encuentro, “<\/span>Inteligencia Artificial: Nada de lo humano nos es ajeno<\/span><\/a>“, donde participan investigadores del ICC.<\/span><\/p>\n

Por \u00faltimo, Rodriguez comenta que se necesita conformar una masa cr\u00edtica de investigadores y expertos locales en temas de \u00e9tica, regulaci\u00f3n y confiabilidad de los sistemas de IA, porque ciertamente hay muy pocos investigadores locales y regionales que se dedican a estos temas. \u201c<\/span>Nosotros dictamos materias, damos charlas y realizamos diversas publicaciones. Ojal\u00e1 cada vez m\u00e1s gente se involucre en estos proyectos y discusiones, frente a los r\u00e1pidos desarrollos de las herramientas de inteligencia artificial y el impacto que se est\u00e1 observando en la automatizaci\u00f3n de la toma de decisiones<\/span><\/i>\u201d, concluye.<\/span><\/p>\n

\n

Premio al mejor paper en l\u00f3gicas modales<\/b><\/p>\n

\"\"M\u00e1s all\u00e1 de los habituales problemas en inteligencia artificial, <\/span>Ricardo Rodriguez<\/b> tambi\u00e9n trabaja en problemas te\u00f3ricos de l\u00f3gica y computabilidad. Tal es as\u00ed que el a\u00f1o pasado recibi\u00f3 el premio al mejor paper en la conferencia<\/span> IMPU 2022<\/span><\/a> celebrada en Mil\u00e1n, por su trabajo \u201c<\/span>Rotations of G\u00f6del Algebras with Modal Operators<\/span><\/a>\u201d, junto a los autores Tommaso Flaminio, Lluis Godo y Paula Mench\u00f3n. El art\u00edculo propone el desarrollo te\u00f3rico de un modelo de l\u00f3gicas modales multivariadas, que resultar\u00edan de valor por su potencial aplicaci\u00f3n como modelos de razonamiento de las redes neuronales.<\/span><\/p>\n

\u201c<\/span>Las redes neuronales suelen funcionar muy bien, pero un problema que presentan es que no hay modelos de razonamiento para modelarlas, hay muchas heur\u00edsticas que permiten que funcionen bien, pero a la hora de explicar c\u00f3mo y por qu\u00e9 funcionan no son tan claras, ya que cuando las redes neuronales fallan a veces no se sabe por qu\u00e9. Uno podr\u00eda pensar que estos modelos l\u00f3gicos basados en n\u00fameros podr\u00edan ofrecer una herramienta interesante para razonar y modelar la retroalimentaci\u00f3n interna de las redes neuronales. Y el premio que nos dieron es de un modelo que efectivamente podr\u00eda funcionar muy bien con ese prop\u00f3sito. Se trata de una teor\u00eda formalizada que tiene trascendencia desde el punto de vista pr\u00e1ctico, entendiendo que podr\u00eda resolver este complejo problema de razonamiento<\/span><\/i>\u201d, argumenta el investigador del ICC.\u00a0<\/span><\/p>\n<\/blockquote>\n<\/div><\/div><\/div><\/div><\/div>\n","protected":false},"excerpt":{"rendered":"

El actual desarrollo de aplicaciones en inteligencia artificial (IA) nos ubica en un punto de inflexi\u00f3n, ya que se trata de aplicaciones cada vez m\u00e1s aut\u00f3nomas que podr\u00edan tomar decisiones cr\u00edticas sin una intervenci\u00f3n humana. Concientizar sobre el poder de la IA y la necesidad de regular sus diversos usos, es uno de los grandes desaf\u00edos que atraviesan nuestras sociedades. En este contexto, investigadores del ICC trabajan en diferentes proyectos para promover los aspectos \u00e9ticos y regulatorios de la IA.<\/p>\n","protected":false},"author":9,"featured_media":2511,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[12],"tags":[29,25,28],"class_list":["post-2508","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-aprendizaje-automatico","tag-computo","tag-inteligencia-artificial"],"_links":{"self":[{"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/posts\/2508","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/users\/9"}],"replies":[{"embeddable":true,"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/comments?post=2508"}],"version-history":[{"count":1,"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/posts\/2508\/revisions"}],"predecessor-version":[{"id":2512,"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/posts\/2508\/revisions\/2512"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/media\/2511"}],"wp:attachment":[{"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/media?parent=2508"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/categories?post=2508"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/icc.fcen.uba.ar\/en\/wp-json\/wp\/v2\/tags?post=2508"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}