en su virtud, se elegirá un método de inteligencia artificial cuando esté justificado a través de evidencia cientifica robusta y sus resultados sean convenientes para los fines perseguidos una vez aplicadas evaluaciones de riesgo y de impacto sobre las personas, en particular, aquellos históricamente excluidos o marginados por la sociedad y sobre el medio ambiente. Será inocua cuando su aplicación no genere daños a los seres humanos, al medio ambiente y ecosistemas.
la Inteligencia Artificial debe ser un mecanismo que genere justicia social de manera que sus beneficios deben buscarse procurando alcanzar al mayor número de personas posible sin distinción de raza, edad, situación migratoria, de la identidad de género o nivel socioeconómico. Para ello se debe procurar que el diseño e implementación de sistemas de IA estén involucradas las visiones de personas pertenecientes grupos excluidos o marginados a quienes estos sistemas más les impacta de forma negativa y dotandolas de la autonomía para auditarlos por su cuenta y oponerse a su implementación.
Se trata de una garantia fundamental que debe cautelarse durante todo el ciclo de vida de los sistemas de Inteligencia artificial, debiendo establecerse marcos de protección y mecanismos de gobernanza adecuados, respaldados por los sistemas de judiciales en caso de infracción.
Las personas tienen derecho a saber cuándo se toma una decisión sobre la base de algoritmos de IA y, en esas circunstancias, exigir o solicitar explicaciones e información a empresas del sector privado o instituciones del sector público. Asimismo, transparencia se extiende a la disposicion pública de registros e informacion sobre evidencias de beneficios reales, estudios de impacto asi como respecto de mecanismos de eleccion, contratacion y auditoria.
El ser humano siempre debe poder auto determinarse, de manera que conserve el poder de decidir que decisión tomar sobre si mismos, en lugar que lo haga un sistema de inteligencia artificial. Siempre debe ser posible atribuir la responsabilidad ética y jurídica, en cualquier etapa del ciclo de vida de los sistemas de IA, a personas físicas o a entidades jurídicas existentes. Esta supervisión humana no es sólo individual, sino que también se refiere a la supervisión pública.
Los creadores de sistema de inteligencia artificial e intermediarios deben asumir las consecuencias éticas y jurídicas por las tecnologías que diseñen e implementen de conformidad con el ordenamiento jurídico vigente. La obligación de rendir cuentas debe sustentarse en mecanismos adecuados de supervisión a lo largo de todas las etapas, para esto la auditabilidad y trazabilidad de los mecanismos es una condición esencial.