por Prof. Dr. Osvaldo H. Heguy
Un reciente episodio ocurrido en la localidad bonaerense de Quilmes permite analizar uno de los problemas jurídicos que adquirirán creciente relevancia durante los próximos años, la utilización de información obtenida a partir de interacciones con sistemas de inteligencia artificial para prevenir posibles hechos delictivos.
Según trascendió públicamente, un adolescente habría exteriorizado, mediante una conversación mantenida con un sistema de inteligencia artificial, la intención de realizar un ataque contra integrantes de su establecimiento educativo. La información llegó posteriormente a conocimiento de autoridades argentinas a través del FBI y dio lugar a una investigación que culminó con allanamientos de la Justicia argentina.
El caso presenta interés jurídico por una razón que excede sus circunstancias particulares, nos obliga a examinar hasta dónde puede extenderse la actividad preventiva del Estado cuando todavía no se ha producido el daño que se pretende evitar.
El artículo 1710 del Código Civil y Comercial de la Nación establece el deber de evitar causar un daño no justificado, adoptar las medidas razonables para impedir su producción o disminuir su magnitud y no agravarlo cuando ya se hubiera producido.
Aunque la norma se encuentra ubicada dentro del régimen de responsabilidad civil, expresa una concepción jurídica de mayor alcance: la protección de derechos no necesariamente comienza después de la lesión.
El problema aparece cuando trasladamos esta lógica al ámbito de la seguridad pública y del Derecho penal.
En materia penal no resulta jurídicamente admisible sancionar a una persona por aquello que simplemente podría llegar a hacer. El principio de legalidad —artículo 18 de la Constitución Nacional y artículo 1 del Código Penal— exige la existencia de una conducta previamente definida por la ley como delito.
Por ello debe distinguirse cuidadosamente entre prevención de un riesgo y atribución de responsabilidad penal.
El Estado puede desarrollar actividades destinadas a impedir la producción de un hecho dañoso. Pero esa potestad preventiva no autoriza, por sí misma, a considerar delincuente a quien todavía no ha cometido un delito.
Una persona puede expresar ante una inteligencia artificial pensamientos, fantasías, amenazas, proyectos o intenciones. El contenido lingüístico de esa interacción puede ser técnicamente analizado y eventualmente generar mecanismos de alerta.
Sin embargo, desde la perspectiva jurídica, el contenido de una conversación no equivale automáticamente a la comisión de un delito.
Una amenaza puede constituir delito cuando reúne los requisitos previstos por la legislación penal. Una planificación puede adquirir relevancia jurídica cuando se exterioriza mediante actos que encuadren en una figura penal. Y determinadas conductas preparatorias pueden resultar punibles únicamente cuando el legislador expresamente así lo establece.
Desde el punto de vista del Derecho internacional y del derecho interno argentino, debe diferenciarse entre cooperación internacional y ejercicio de potestades estatales dentro del territorio nacional.
Una autoridad extranjera puede comunicar información a las autoridades argentinas en el marco de mecanismos de cooperación. Ello no significa que pueda ejercer directamente funciones policiales en territorio argentino.
La investigación, las medidas coercitivas y las decisiones que impliquen afectación de derechos fundamentales corresponden a las autoridades nacionales competentes y deben sujetarse al ordenamiento jurídico argentino.
En este punto adquiere particular importancia el artículo 18 de la Constitución Nacional, que establece que nadie puede ser privado de su domicilio ni de sus papeles particulares sino en virtud de orden escrita de autoridad competente.
La procedencia de un allanamiento, por consiguiente, no depende exclusivamente de la procedencia de la información inicial, sino de la existencia de motivos jurídicamente suficientes y del cumplimiento de los requisitos establecidos por el ordenamiento procesal aplicable. La circunstancia de que la información haya tenido origen en otro Estado no elimina el control judicial argentino.
El artículo 19 de la Constitución Nacional protege las acciones privadas de los hombres que no ofendan el orden y la moral pública ni perjudiquen a terceros.
A su vez, el artículo 18 establece la inviolabilidad de la correspondencia y los papeles privados, mientras que el artículo 11 de la Convención Americana sobre Derechos Humanos protege la honra y la dignidad y prohíbe las injerencias arbitrarias o abusivas en la vida privada.
Por ello, el desarrollo tecnológico no puede interpretarse como una habilitación para establecer mecanismos generales e indiscriminados de vigilancia.
La cuestión constitucional no desaparece porque la información se encuentre almacenada digitalmente.
Por el contrario, la expansión de la tecnología obliga a redefinir cómo se aplican las garantías tradicionales a nuevas formas de comunicación.
La Convención sobre los Derechos del Niño —con jerarquía constitucional en virtud del artículo 75 inciso 22 de la Constitución Nacional— exige considerar el interés superior del niño y establece garantías específicas frente a cualquier procedimiento judicial.
El régimen de responsabilidad penal juvenil posee, por ello, particularidades propias.
La intervención estatal debe compatibilizar la protección de la sociedad con las garantías, derechos y condiciones especiales que corresponden a una persona menor de edad. Esto resulta especialmente relevante en situaciones en las que todavía se discute si determinadas expresiones constituyen una amenaza concreta, una conducta preparatoria penalmente relevante o simplemente manifestaciones que requieren intervención preventiva de otra naturaleza, cabe mencionar que el estado tiene razones legítimas para prevenir hechos graves, pero la prevención no puede transformarse en una presunción permanente de peligrosidad.
Un Estado constitucional no puede intervenir sobre una persona exclusivamente porque un algoritmo, una plataforma o una autoridad considere que podría convertirse en autora de un delito futuro, asimismo, la prevención requiere indicadores objetivos, razonabilidad, proporcionalidad y control institucional.
De lo contrario, existe el riesgo de sustituir el principio de culpabilidad por una lógica de peligrosidad anticipada, y cuidado, esa transformación sería particularmente problemática en materia penal. El Derecho puede intervenir frente a determinadas conductas anteriores al resultado dañoso cuando la legislación así lo establece. Lo que no puede hacer es convertir cualquier posibilidad futura en responsabilidad jurídica actual.
El caso de Quilmes constituye, desde una perspectiva jurídica, algo más que un episodio policial, representa una anticipación de los conflictos que surgirán cuando la inteligencia artificial, las plataformas digitales y los sistemas de seguridad comiencen a interactuar de manera cada vez más estrecha.
La prevención constituye una finalidad legítima, la cooperación internacional también, y la utilización de herramientas tecnológicas puede resultar indispensable para proteger bienes jurídicos fundamentales, pero ninguna de esas circunstancias habilita a abandonar los principios estructurales del Estado constitucional.
La existencia de una alerta no equivale a la existencia de un delito. La información extranjera no sustituye la jurisdicción nacional. La detección tecnológica no reemplaza la valoración judicial. Y la prevención no elimina la presunción de inocencia ni el principio de legalidad.
El desafío jurídico consiste, precisamente, en prevenir sin criminalizar anticipadamente; investigar sin avasallar garantías; cooperar internacionalmente sin abandonar la jurisdicción nacional y utilizar inteligencia artificial sin convertirla en fuente autónoma de poder estatal.
Quizás allí se encuentre uno de los grandes problemas jurídicos de las próximas décadas: determinar cómo proteger eficazmente a la sociedad cuando la tecnología permite advertir un peligro antes de que se transforme en daño, sin que esa capacidad preventiva termine convirtiendo al ciudadano en sospechoso por lo que una máquina considera que podría llegar a hacer.
