El proyecto est\u00e1, en l\u00edneas generales, muy bien estructurado y logra consolidar los aspectos m\u00e1s relevantes a tener en cuenta en una regulaci\u00f3n integral en la materia.<\/p>\n\n\n\n
El texto es presentado por el Gobierno Nacional (Ministerio de Ciencia, Tecnolog\u00eda e Innovaci\u00f3n (Minciencias), y Ministerio de Tecnolog\u00edas de la Informaci\u00f3n y Comunicaciones, Mintic) ante el Legislativo (Senado) y tiene la categor\u00eda de ley estatutaria, pues est\u00e1n en juego varios derechos fundamentales y humanos que merecen una especial atenci\u00f3n. El proyecto lleva por t\u00edtulo \u201cpor medio del cual se regula la inteligencia artificial en Colombia para garantizar su desarrollo \u00e9tico y sostenible\u201d. En s\u00edntesis, el proyecto tiene como objeto promover la generaci\u00f3n de conocimiento, el desarrollo de la infraestructura tecnol\u00f3gica y la implementaci\u00f3n de la inteligencia artificial (IA) en Colombia, con un enfoque territorial, \u00e9tico, inclusivo, responsable, sostenible, que fortalezca las capacidades cient\u00edficas, productivas, institucionales y de innovaci\u00f3n, y contribuya a la prevalencia de los derechos fundamentales.<\/p>\n\n\n\n
El proyecto est\u00e1, en l\u00edneas generales, muy bien estructurado y logra consolidar los aspectos m\u00e1s relevantes a tener en cuenta en una regulaci\u00f3n integral en la materia, y en la exposici\u00f3n de motivos se menciona de manera directa que busca posicionar a Colombia como un l\u00edder en la adopci\u00f3n responsable de la IA.<\/p>\n\n\n\n
Vale decir que nuestro pa\u00eds ha venido trabajando desde tiempo atr\u00e1s en los aspectos \u00e9ticos, y buscando que la IA sea un veh\u00edculo propicio del desarrollo tecnol\u00f3gico en nuestro territorio, estableciendo desde 2019 una pol\u00edtica p\u00fablica en la materia cristalizada en el documento Conpes de ese a\u00f1o, y, en el m\u00e1s reciente, Documento Conpes 4144 del 14 de febrero de 2025 (Pol\u00edtica Nacional de Inteligencia Artificial).<\/p>\n\n\n\n
Este proyecto busca en alguna medida concretar, concertar y reunir los distintos proyectos presentados hasta la fecha, y tiene como objetivo llegar y regular el tema frente a todas las personas naturales y jur\u00eddicas de car\u00e1cter p\u00fablico o privado que creen, desarrollen, implementen, comercialicen, importen, representen, distribuyan o usen sistemas de IA desarrollados, implementados y\/o utilizados en territorio colombiano o que estando ubicados en el exterior estar\u00e1n obligados por la ley colombiana, los cuales se denominar\u00e1n para los efectos de la presente ley \u201cresponsable de IA\u201c.<\/p>\n\n\n\n
Regulaci\u00f3n en Latinoam\u00e9rica y a nivel mundial<\/p>\n\n\n\n
La iniciativa toma como referencias y par\u00e1metros las directrices trazadas entre otras desde la Unesco, la OCDE, la Uni\u00f3n Europea, entre otros. As\u00ed mismo, tiene en cuenta los proyectos de ley y regulaciones ya en curso y existentes en otros pa\u00edses latinoamericanos y en las dem\u00e1s regiones del mundo.<\/p>\n\n\n\n
En Latinoam\u00e9rica, adicional a Colombia, algunos pa\u00edses como Argentina, Brasil, Chile, Costa Rica, Ecuador, M\u00e9xico, Panam\u00e1, Per\u00fa, y Uruguay, adelantan proyectos de regulaci\u00f3n sobre la materia.<\/p>\n\n\n\n
Por supuesto, EE UU, Canad\u00e1, la Uni\u00f3n Europea, China y el Reino Unidos hacen lo propio con gran dimensi\u00f3n en su marco regulatorio sobre la AI.<\/p>\n\n\n\n
Autoridad nacional para la IA<\/p>\n\n\n\n
El presente proyecto establece de manera directa y clara que el Minciencias tendr\u00e1 las funciones de inspecci\u00f3n, vigilancia y control (sanci\u00f3n y acompa\u00f1amiento t\u00e9cnico) y, por ende, ser\u00e1 la autoridad nacional competente en materia de IA, responsable de supervisar el cumplimiento de la presente ley y de establecer, en el marco de sus competencias, las disposiciones necesarias para su implementaci\u00f3n. Para ello, podr\u00e1 adoptar recomendaciones y mejores pr\u00e1cticas nacionales e internacionales relacionadas con el desarrollo, uso, implementaci\u00f3n y evaluaci\u00f3n de los sistemas de IA.<\/p>\n\n\n\n
As\u00ed mismo, establece que el Minciencias desempe\u00f1ar\u00e1 un rol t\u00e9cnico de asesoramiento, coordinaci\u00f3n y apoyo, verificando, proponiendo, evaluando y promoviendo la adopci\u00f3n de est\u00e1ndares y mecanismos de autorregulaci\u00f3n por parte de los responsables de IA, en articulaci\u00f3n con el Mintic y dem\u00e1s entidades con competencias en la materia. Aqu\u00ed ser\u00e1 de suma importancia la articulaci\u00f3n y trabajo conjunto que se adelante con todos los estamentos y entes que puedan coadyubar tal prop\u00f3sito, por ejemplo, la Delegatura de Protecci\u00f3n de Datos Personales de la Superintendencia de Industria y Comercio (SIC), y la Agencia Nacional Digital entre muchas otras.<\/p>\n\n\n\n
Adicional, se establece la creaci\u00f3n del Consejo Asesor Nacional de Expertos en Inteligencia Artificial, el cual funcionar\u00e1 como una instancia permanente de alto nivel dentro del Sistema Nacional de Ciencia, Tecnolog\u00eda e Innovaci\u00f3n (SNCTI), y ser\u00e1 un \u00f3rgano de car\u00e1cter consultivo y multisectorial, encargado de brindar asesor\u00eda especializada en IA al Gobierno Nacional. Las funciones de este consejo se establecer\u00e1n mediante decreto reglamentario de la presente Ley, y all\u00ed mismo se establecer\u00e1n las funciones espec\u00edficas a cargo de este, as\u00ed como su designaci\u00f3n y composici\u00f3n.<\/p>\n\n\n\n
Grados y medici\u00f3n de los riesgos en el uso de la IA<\/p>\n\n\n\n
Llama poderosamente la atenci\u00f3n y resulta de suma importancia que el texto entra a establecer y a determinar responsabilidades desde el punto de vista administrativo, civil, penal y \u00e9tico. El proyecto entra a determinar y graduar los grados de riesgo permitidos y no permitidos, dependiendo del nivel de impacto que pueda tener el uso de la IA en los derechos fundamentales, los derechos humanos, la discriminaci\u00f3n y el denominado riesgo o sesgo algor\u00edtmico. Para ello, en alguna medida toma como referencia lo ya regulado y establecido en la legislaci\u00f3n europea.<\/p>\n\n\n\n
En este punto ser\u00e1 menester y se deber\u00e1 armonizarse esta graduaci\u00f3n de riesgos con lo ya dispuesto en el C\u00f3digo Civil (CC) cuando establece los niveles de culpa y dolo, en especial cuando establece la clasificaci\u00f3n en culpa grave, culpa leve y culpa lev\u00edsima. <\/p>\n\n\n\n
Mutatis mutandis, es importante mencionar, explicar y entender los grados de riesgo establecidos en Europa, por ser los mismos casi en su integridad los que retoma el proyecto de ley. Como se recuerda, el denominado AI ACT de la Uni\u00f3n Europea, en aras de garantizar los derechos humanos y garant\u00edas civiles, evitar la discriminaci\u00f3n y sesgos ha optado por catalogar y medir los riesgos en el uso de la IA, de modo que no se frene el desarrollo tecnol\u00f3gico y se puedan usar estas herramientas de AI, pero buscando un equilibrio, ha clasificado los riesgos y ha establecido una serie de limitaciones y obligaciones que buscan morigerar y crear un justo medio en la materia. A saber, los riesgos que establece la regulaci\u00f3n europea y que retoman el proyecto colombiano pueden resumirse en los siguientes:<\/p>\n\n\n\n
1. Riesgo inaceptable o prohibido, como la manipulaci\u00f3n de las opiniones y decisiones de las personas; la explotaci\u00f3n de los ni\u00f1os, personas con discapacidad mental y personas vulnerables y que resulte en alg\u00fan da\u00f1o f\u00edsico o sicol\u00f3gico; la clasificaci\u00f3n social con base en la conducta de las personas, y la identificaci\u00f3n en tiempo real de datos biom\u00e9tricos, con algunas excepciones. El uso de estos sistemas est\u00e1 prohibido de plano.<\/p>\n\n\n\n
2. Riesgo alto, que incluye el uso de IA para la identificaci\u00f3n biom\u00e9trica, el manejo de infraestructura cr\u00edtica, la educaci\u00f3n, la contrataci\u00f3n laboral, el acceso a servicios p\u00fablicos y privados esenciales, la aplicaci\u00f3n de la ley, los servicios migratorios, la administraci\u00f3n de justicia y de la democracia. Al ser considerados de alto riesgo, estos deben cumplir, en resumen, dos grandes obligaciones: una evaluaci\u00f3n de conformidad previo a entrar al mercado, lo que implicar\u00eda la adopci\u00f3n de est\u00e1ndares, la adopci\u00f3n de pol\u00edticas de gobernanza de datos, \u00e9tica y de privacidad, requisitos de ciberseguridad, etc. Tambi\u00e9n, deber\u00e1 haber un plan peri\u00f3dico de seguimiento poscomercializaci\u00f3n para asegurar el cumplimiento.<\/p>\n\n\n\n
3. Riesgo bajo, como la IA que interact\u00faa con humanos, detecta las emociones, determina categor\u00edas con base a informaci\u00f3n biom\u00e9trica y genera contenido manipulador. Las empresas que usan, desarrollan y comercializan estas tecnolog\u00edas deben cumplir algunas obligaciones de transparencia con el p\u00fablico, como poner marcas de agua a los videos Deep fake.<\/p>\n\n\n\n
4. Riesgo m\u00ednimo, que son sistemas de IA que, no estando en las causales anteriores, no est\u00e1n restringidos ni derivan en obligaciones espec\u00edficas.<\/p>\n\n\n\n
Algunas recomendaciones y sugerencias<\/p>\n\n\n\n
El 5 de abril del a\u00f1o 2024, como decano de la Facultad de Derecho Bogot\u00e1, por invitaci\u00f3n que nos curs\u00f3 el senador David Luna, tuvimos la oportunidad de intervenir en la Comisi\u00f3n Primera del Senado y presentar nuestra postura sobre la pertinencia o no de regular el tema de IA. Como es conocimiento p\u00fablico, en esa oportunidad se\u00f1alamos lo siguiente: <\/p>\n\n\n\n
\u201cWilson R\u00edos, decano de la facultad de derecho de la Universidad Areandina y abogado digital manifest\u00f3 que: \u201cS\u00ed debe existir una regulaci\u00f3n, pero debe ser general, marc\u00f3 incluso la autorregulaci\u00f3n que hemos visto en el sector privado y la academia. Por ejemplo, en la Universidad \u00c1rea Andina hemos incluido un dec\u00e1logo de uso responsable y \u00e9tico sobre el uso de la IA. Y quiero enfatizar en lo \u00e9tico, porque es crucial por todas las implicaciones que tiene esta tecnolog\u00eda, la regulaci\u00f3n debe ser supra, porque la tecnolog\u00eda avanza y la regulaci\u00f3n se quedar\u00eda obsoleta si es espec\u00edfica\u201d. En s\u00edntesis, la regulaci\u00f3n que se piense para un pa\u00eds en v\u00eda de desarrollo como Colombia debe ser general, marco y con una visi\u00f3n supra, que no regule todos los asuntos pertinentes en detalle y que no frene el desarrollo tecnol\u00f3gico o se convierta en una barrera al mismo. Por ello el proceso que se adelante por los legisladores colombianos debe ser muy general, neutro y atendiendo el principio de neutralidad tecnol\u00f3gica, y no en detalle para evitar que se desactualice y sea obsoleto r\u00e1pidamente debido al avance vertiginoso de la materia\u201d.<\/p>\n\n\n\n
Por ello, recomendamos que el modelo de regulaci\u00f3n nacional se base en una pol\u00edtica p\u00fablica sobre IA, y que el marco jur\u00eddico sea fundamentada en principios generales. El modelo europeo puede ser un punto de referencia, pero el reto est\u00e1 en adecuarlo de manera precisa a nuestro entorno, como ya se ha hecho en otros temas tecnol\u00f3gicos, como cuando se utilizaron las normas tipo de la Uncitral sobre comercio electr\u00f3nico y firmas digitales, lo que a la postre deriv\u00f3 en la Ley 527 de 1999.<\/p>\n\n\n\n
Como quiera que la Uni\u00f3n Europea con su denominada AI ACT., es la regi\u00f3n que ha tomado la delantera y ha presentado y tiene un marco legal m\u00e1s robusto, adecuado y cercano a nuestro sistema jur\u00eddico, en Colombia consideramos acertado que debamos seguir esa misma l\u00ednea adoptada en el viejo continente.<\/p>\n\n\n\n
Fortalecimiento del ecosistema de ciencia, tecnolog\u00eda e innovaci\u00f3n de la IA<\/p>\n\n\n\n
Sobre este particular se ocupa el art\u00edculo 11 del proyecto, y dispone que el Gobierno Nacional promover\u00e1 programas y fondos espec\u00edficos para apoyar la investigaci\u00f3n, desarrollo tecnol\u00f3gico e innovaci\u00f3n en IA siempre con un compromiso \u00e9tico, responsable y sostenible en su desarrollo y uso, mediante criterios de inclusi\u00f3n y accesibilidad. De singular importancia e inter\u00e9s para las instituciones de educaci\u00f3n superior (IES), en el numeral 11.1., se menciona de manera directa que el financiamiento para proyectos de Investigaci\u00f3n, desarrollo tecnol\u00f3gico e innovaci\u00f3n, se realizar\u00e1n en articulaci\u00f3n con la academia. As\u00ed mismo en los numerales 11.2 y 11.3 nos compete estar involucrados a las IES, pues hablan sobre promover Infraestructura para la investigaci\u00f3n, desarrollo tecnol\u00f3gico e innovaci\u00f3n en IA, y plataformas e incentivos para la colaboraci\u00f3n p\u00fablico-privada e interdisciplinar en el desarrollo de la IA.<\/p>\n\n\n\n
Propiedad intelectual e IA<\/p>\n\n\n\n
Un tema de singular importancia, que impacta de manera directa el desarrollo tecnol\u00f3gico, y por supuesto el que tiene que ver con IA, es el relacionado con propiedad intelectual (PI, derecho de autor, marcas, patentes, etc.). Por ello, precisamente, el art\u00edculo 18 del proyecto se ocupa de manera muy somera y parcial del mismo, y establece el apoyo a la protecci\u00f3n de la propiedad intelectual en IA, mediante el Minciencias y la SIC, para brindar apoyo t\u00e9cnico y jur\u00eddico a los investigadores, desarrolladores y entidades que desarrollen sistemas de IA para la protecci\u00f3n de sus invenciones mediante patentes, derechos de autor y otras formas de propiedad intelectual reconocidas por la legislaci\u00f3n nacional e internacional. Sin embargo, no aborda de manera directa el tema central que tiene que ver con los titulares de derechos de PI, quienes se est\u00e1n viendo afectados de manera ostensible, pues los creadores y titulares de tales derechos, y sus activos de PI est\u00e1n siendo seriamente afectados y usados para entrenar y nutrir los sistemas y herramientas de IA en especial la generativa (IAG).<\/p>\n\n\n\n
Por ello, encontramos pertinente que sobre este tema se busque generar y propender por una cultura de respeto de los derechos de PI, para que sea un prop\u00f3sito y objetivo directo para equilibrar estos derechos y el desarrollo tecnol\u00f3gico. Ser\u00eda muy importante involucrar en este prop\u00f3sito a las entidades rectoras de la materia en el pa\u00eds, entre ellas a la Direcci\u00f3n Nacional de Derecho de Autor y la Delegatura de Propiedad Industrial de la SIC, entre otras.<\/p>\n\n\n\n
Como se recordar\u00e1, hace muy pocos d\u00edas, la administraci\u00f3n del presidente Trump despidi\u00f3 a Shira Perlmutter, directora de la Copyright Office (Oficina de Derechos de Autor de EE UU), y d\u00edas antes hab\u00eda hecho lo propio con la directora de la Biblioteca del Congreso, Carla Hayden. Vale decir que la Copyright Office est\u00e1 adscrita a la Biblioteca del Congreso.<\/p>\n\n\n\n
Se ha especulado mucho alrededor de los motivos que llevaron al despido de las dos funcionarias, pero se rumora que, en gran medida, se debi\u00f3 a la presi\u00f3n que muchas empresas tecnol\u00f3gicas que adelantan proyectos de IAG, frente a la f\u00e9rrea defensa que se hizo desde la Copyright Office, expidiendo directrices claras en favor de los derechos que ostentan los creadores y que est\u00e1n seriamente amenazados con el uso de contenidos y materiales previamente existentes para entrenar y nutrir muchas de las herramientas m\u00e1s populares de IAG. Se rumora, adem\u00e1s, que, entre otros, el director del Departamento de Eficiencia Gubernamental de EE UU, Elon Musk puede estar detr\u00e1s de estas decisiones.<\/p>\n\n\n\n