Innovación, derechos y seguridad, principios básicos en el futuro de la inteligencia artificial

En audiencia pública sobre inteligencia artificial, para analizar y dar continuidad a los desafíos que enfrenta el país frente a su regulación, congresistas, entidades del Gobierno, organismos internacionales, academia y organizaciones de la sociedad civil, discutieron sobre las conveniencias y retos que se presentan.

Por: Maricela Londoño

 

 

 El evento se desarrolló en el marco del proyecto de ley que busca regular el desarrollo y uso de la inteligencia artificial en Colombia. El espacio permitió escuchar visiones desde distintos sectores sobre cómo enfrentar los retos que plantea esta tecnología en ámbitos como el empleo, la seguridad, la educación, la protección de datos y la democracia.

Como eje central de las exposiciones se analizó el proyecto de ley 043 de 2025 Senado – 324 de 2025 Cámara, el cual busca garantizar que el desarrollo y uso de la inteligencia artificial en el país se dé de manera ética, responsable, innovadora y competitiva, con pleno respeto a los derechos fundamentales y con una visión de inclusión social y territorial.

 

…no todas las tecnologías merecen el mismo grado de control. Los sistemas con capacidad de afectar intensamente derechos fundamentales, seguridad, salud, medio ambiente u orden público requieren controles reforzados

 

Entre sus ejes más relevantes se encuentran, en primer lugar, un esquema de gobernanza colaborativa, en el que el Ministerio de Ciencia, Tecnología e Innovación actúa como autoridad nacional en IA, coordinando política pública, conceptos técnicos, clasificación de sistemas y espacios regulatorios controlados como los sandbox.

En segundo lugar, el proyecto adopta una clasificación por niveles de riesgo, distinguiendo entre sistemas de riesgo crítico, alto, limitado y bajo o mínimo. Esto es importante porque permite una regulación proporcional: no todas las tecnologías merecen el mismo grado de control. Los sistemas con capacidad de afectar intensamente derechos fundamentales, seguridad, salud, medio ambiente u orden público requieren controles reforzados; otros, en cambio, pueden someterse a obligaciones de transparencia, monitoreo o mejora continua.

También incorpora instrumentos para promover la innovación, fortalecer el ecosistema de ciencia y tecnología, impulsar centros de excelencia, proteger el talento nacional, promover la educación y la apropiación social del conocimiento, e incorporar enfoques diferenciales de género, étnico, territorial, de discapacidad y diversidad.

Esta iniciativa legislativa ha sido el resultado de múltiples voces y saberes, logrando desarrollar un esquema de garantías y responsabilidades para desarrolladores, implementadores y usuarios, manteniendo competencias institucionales existentes y avanzando hacia una futura actualización normativa frente a usos indebidos de la IA.

 

Un momento histórico y trascendente por los alcances que tendrán para la humanidad el desarrollo de estas nuevas tecnologías, donde valdría la pena preguntarnos en el marco del contexto colombiano ¿En qué punto está el proyecto de ley? ¿Qué consensos existen? ¿Qué ajustes son necesarios y cómo lograr que el trámite legislativo avance con seriedad, con apertura al debate y con la calidad técnica que un tema de esta magnitud exige?

El espacio permitió escuchar visiones desde distintos sectores sobre cómo enfrentar los retos que plantea esta tecnología en ámbitos como el empleo, la seguridad, la educación, la protección de datos y la democracia.

 

 

Para David Alejandro Toro Ramírez, representante a la Cámara del Movimiento Político Pacto Histórico, el país enfrenta una transformación tecnológica que exige respuestas legislativas urgentes, “El impacto de la inteligencia artificial en el empleo y en la sociedad será profundo. Por eso este debate no es solo tecnológico, también es social y ético”, señaló el congresista durante su intervención. Toro advirtió además sobre los desafíos que traerá la automatización en el mercado laboral y la necesidad de avanzar en marcos regulatorios que también aborden riesgos como el uso de armas autónomas o la manipulación de información mediante sistemas automatizados.

 

Innovación con protección de derechos

Desde el Gobierno nacional, varias entidades presentaron los avances que ya existen en materia de inteligencia artificial y las bases que podrían permitir implementar una futura regulación. La viceministra de Conocimiento del Ministerio de Ciencia, Tecnología e Innovación de Colombia, Luisa Fernanda Robayo, explicó que el proyecto de ley busca equilibrar la promoción de la innovación con la protección de los derechos fundamentales.

 

 

Según Robayo, “la iniciativa incluye medidas para proteger a trabajadores frente a la automatización, fortalecer la formación temprana en inteligencia artificial – IA y promover el desarrollo tecnológico propio para reducir la dependencia tecnológica del país”.

Por su parte, Lucy Elena Hurón, directora de Gobierno Digital del Ministerio de Tecnologías de la Información y las Comunicaciones de Colombia, destacó que Colombia ya ha avanzado en programas de formación y adopción tecnológica en distintos territorios. “Programas como Territorios IA han permitido que municipios utilicen analítica de datos y herramientas de inteligencia artificial para mejorar la gestión pública”, señaló.

 

Derechos humanos y regulación

Uno de los ejes centrales del debate fue la relación entre inteligencia artificial y derechos humanos. El representante en Colombia de la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Scott Campbell, advirtió sobre los riesgos que pueden generar tecnologías como el reconocimiento facial en tiempo real o la vigilancia biométrica masiva.

 

Según Campbell, “el uso de estas herramientas debe contar con garantías jurídicas claras, límites estrictos y supervisión independiente para evitar afectaciones a la privacidad, la dignidad y otros derechos fundamentales.”

En la misma línea, Santiago Pardo, de la Defensoría del Pueblo, señaló que “la regulación debe incorporar estándares internacionales de derechos humanos y fortalecer la alfabetización digital para que la ciudadanía comprenda los riesgos asociados a estas tecnologías”. En otras palabras ¿Cómo regular a nivel nacional, teniendo presente la legislación y articulación con los países desarrolladores de tecnología y las regulaciones que de manera conjunta deben darse?

 

Seguridad, defensa y uso estatal de la IA

El uso de inteligencia artificial en seguridad también generó un encuentro de diversos enfoques durante la audiencia. Desde el sector defensa, Alberto Ruiz Argén, del Ministerio de Defensa Nacional de Colombia, explicó que el uso de estas tecnologías debe regirse por principios de legalidad, proporcionalidad, supervisión humana y transparencia.

De acuerdo con el funcionario, “algunos desarrollos tecnológicos —como los sistemas de armas autónomas o los sistemas de vigilancia masiva— plantean riesgos importantes para el Estado de derecho y deben ser abordados con cautela.” Una reflexión pertinente y urgente de cara al uso activo de este tipo de armamento en las guerras y conflictos contemporáneos.  En Colombia, lo vemos en los últimos y frecuentes ataques de los grupos armados ilegales contra la fuerza pública y población civil en diferentes lugares del territorio nacional, una acción indiscriminada que debiera tener regulación, sanciones reales y medidas para contrarrestar esa situación de manera inmediata no solo en nuestro país, sino el mundo. Sin duda genera una especie de indefensión absurda.

Al mismo tiempo, la Policía Nacional de Colombia presentó experiencias en el uso de inteligencia artificial – IA, para mejorar la planeación del servicio policial y la toma de decisiones operativas basadas en datos.

 

La voz de la academia y la sociedad civil

Desde la academia y organizaciones de la sociedad civil también se presentaron reflexiones críticas sobre el alcance del proyecto de ley. El profesor de la Universidad de los Andes, Juan David Gutiérrez, destacó que el Estado colombiano ya utiliza múltiples herramientas de inteligencia artificial, especialmente en sectores como seguridad y justicia, lo que hace aún más urgente avanzar en una regulación clara.

 

Por su parte, Juan Diego Castañeda, de la Fundación Karisma, insistió “en la necesidad de garantizar transparencia, evaluaciones públicas de impacto y participación de la sociedad civil en el desarrollo de sistemas de inteligencia artificial de alto riesgo”.

 

La audiencia dejó claro que la inteligencia artificial – IA, representa uno de los mayores desafíos regulatorios para el país en las próximas décadas. El papel que se jugará en los próximos tiempos para conservar la decisión final y autonomía de pensamiento y quehacer serán vitales para garantizar la pervivencia de la vida y la humanidad como la conocemos.

 

“el Congreso continuará evaluando cómo equilibrar innovación, desarrollo tecnológico y protección de la ciudadanía y los derechos humanos, en la era de la inteligencia artificial…”

 

El reto, coincidieron varios participantes, será construir un marco legal que permita aprovechar el potencial transformador de estas tecnologías sin comprometer los derechos fundamentales ni la democracia. Con la discusión del proyecto de ley en curso, “el Congreso continuará evaluando cómo equilibrar innovación, desarrollo tecnológico y protección de la ciudadanía y los derechos humanos, en la era de la inteligencia artificial- IA, los derechos del futuro, y el derecho al futuro serán la hoja de ruta para garantizar la vida y supervivencia digna y en libertad de las presentes y futuras generaciones”, finalizó el representante Alirio Uribe Muñoz.

Una instancia urgente, un llamado consiente, que apremia no solamente para la regulación sino la implementación a la par de estas iniciativas que realmente garanticen un futuro posible para todas y todos en el planeta.

 

 

 

La información, puntos de vista, ideas, percepciones y posición ideológica expresadas son responsabilidad única y exclusiva de sus autores