Las nuevas tecnologías —tales como, por ejemplo, el sector de la informática, la tecnología digital y las tecnologías de la información y la comunicación, en especial la internet, la automatización avanzada y el control, incluidas la tecnología robótica y la inteligencia artificial y sus aplicaciones (sistemas ciberfísicos)— han alcanzado en los últimos diez años un impulso formidable y han adquirido unas proporciones preocupantes en un mundo que está cambiando a gran velocidad, con importantes implicaciones para el funcionamiento de la sociedad, particularmente en aspectos relacionados con los derechos fundamentales y las libertades públicas.
Las tecnologías modernas constituyen una de las áreas que evolucionan cada vez con mayor rapidez y están en un constante proceso de transformación que solo podemos superar con unas medidas claras y responsables. Estos cambios no solo brindan grandes oportunidades, sino que además entrañan riesgos significativos e impredecibles a largo plazo para el ser humano y la sociedad en general, desde el punto de vista ético, jurídico, de la seguridad y la salud pública, sino también en lo referente a las relaciones entre la ciencia, la tecnología y los derechos fundamentales, el respeto de la dignidad y la libertad humanas.
Todavía hay muchos interrogantes sin respuesta y muchas incertidumbres en el plano legal, filosófico y moral, como por ejemplo los relativos a la interacción hombre y máquina —entre los robots, la inteligencia artificial y los seres humanos— y la fragilidad humana, tanto física como psicológica (en especial los más vulnerables y, en particular, los niños) y consecuencias directas para los derechos y libertades de las personas. En aspectos como la libre circulación de datos personales y las consecuencias de su difusión, los derechos jurídicamente exigibles, la responsabilidad tanto contractual como extracontractual, la transparencia y la seguridad jurídica. Además de los motivos económicos, por las consecuencias sociales y medioambientales, el impacto sobre la salud humana, los consumidores y la sociedad en general.
En los hechos el uso y aplicación de nuevas tecnologías presenta potenciales beneficios para la sociedad, pero también entraña riesgos. Los estudios efectuados han demostrado que la nueva tecnología puede tener efectos directos e indirectos en el conjunto de la sociedad. Esto constituye un problema, en particular en ámbitos tales como la dignidad, la autonomía y la autodeterminación del individuo, con todas las consecuencias que esto conlleva para el Estado de derecho, los derechos fundamentales y las relativas a la responsabilidad civil (como, por ejemplo, la responsabilidad de las acciones de los robots: normas de derecho civil sobre robótica). Esto requerirá una considerable planificación y un análisis concienzudo de todas las repercusiones.
La relación entre las nuevas tecnologías y los derechos fundamentales es un tema controvertido sobre el que existen muchos puntos de vista diferentes entre los especialistas —investigadores, juristas, periodistas, etc.—, en particular por el posible impacto de las tecnologías en el pleno disfrute de los derechos humanos y de las libertades fundamentales y sus repercusiones en la justicia, la libertad y la seguridad. El tema es delicado y al mismo tiempo suscita serios interrogantes en relación con los derechos de las personas físicas, así como sobre otras partes interesadas, incluido en particular el impacto previsto sobre las normas de protección de datos, la libertad de expresión, el respeto de la vida privada y familiar y, especialmente, cualquier efecto negativo potencial sobre la seguridad y la protección ofrecida por el sistema de justicia penal, la lucha contra la ciberdelincuencia y el desarrollo económico y social sostenible a largo plazo así como para resolver una amplia gama de problemas éticos y jurídicos que existen en este ámbito.
Por otra parte, también por tantas y fundadas esperanzas de que estén al servicio de la humanidad y no al revés. Existe una urgente necesidad de encauzar la revolución tecnológica para que esté al servicio de la humanidad —considerando que existe la posibilidad de que a largo plazo la inteligencia artificial llegue a superar la capacidad intelectual humana— y mitigar el riesgo de que la información personal se utilice de formas indebidas, atendiendo a la magnitud y amplitud de los problemas que suscita las nuevas aplicaciones de dichas tecnologías, con sus nuevas oportunidades y retos, sus nuevos principios y desafíos sistémicos, aumentando la capacidad de los ciudadanos y de las autoridades de evaluar los procesos. Estas mismas contradicciones y oportunidades no hacen más que poner en evidencia la complejidad del progreso científico y tecnológico incontrolado, la diversidad y los aspectos transnacionales de la irrupción de las nuevas tecnologías en sus distintas formas y manifestaciones.
La revolución tecnológica y su evolución constante plantea, pues, nuevas cuestiones y retos sociales para las generaciones presentes y futuras, el porvenir y el bienestar de la población en general. Es urgente y tiene vital importancia aprobar legislación y políticas apropiadas para la creación de una sociedad de la información más segura, de una manera integrada y con una perspectiva a largo plazo, no solo en materia económica y social, sino también en otros ámbitos como los derechos y libertades fundamentales —entre ellos, los aspectos de seguridad, la protección de los derechos de las víctimas, la libertad, la privacidad y las comunicaciones electrónicas—, incluidos el de la reversibilidad o la irreversibilidad, la sensibilización, la formación e investigación que permitan a los Estados adquirir la capacidad de prevenir y reprimir los diversos riesgos y garantizar la seguridad de los sistemas de tecnología de la información que afecten a sus sociedades. Hemos de emprender una mayor reflexión colectiva y acción coordinada en una serie de políticas y medidas coordinadas con un enfoque normativo adecuado, eficiente, transparente y coherente, gradual, pragmática y prudente y que ponga de relieve los principios de transparencia, la autonomía, la responsabilidad individual, la responsabilidad social y las cuestiones relativas a la responsabilidad civil, sin olvidar las actuales prácticas y códigos éticos.
Las nuevas tecnologías deben evaluarse también desde la perspectiva de posibles coincidencias e interferencias en el camino hacia el cumplimiento de los fundamentos jurídicos y de los principios de transparencia y proporcionalidad, de precaución y de no perjuicio o maleficencia y otros valores y principios fundamentales conexos clave, aceptados internacionalmente, tales como el principio de tratamiento leal en materia de protección de datos y la acción de normas éticas o jurídicas o el de conciliar el derecho de acceso del público a los documentos oficiales con el derecho a la protección de los datos personales.
Dicho desarrollo también ofrece la oportunidad de sondear en temas tales como la jurisdicción competente —por ejemplo, en los ámbitos del derecho tecnológico y los procedimientos para hacer efectivos los derechos y libertades del interesado con respecto al tratamiento de sus datos personales por parte de las autoridades competentes o la cuestión de las garantías suficientes frente a los riesgos de abuso y arbitrariedad—, sus instrumentos especiales —como, por ejemplo, los principios de ciencia abierta e innovación ética responsable—, entre otras cosas garantizado la vigilancia y la previsibilidad mínimas —por ejemplo, el control sobre las máquinas inteligentes, la certificación y la autorización de comercialización— y el establecimiento de normas claras en relación con los conflictos de intereses (por ejemplo, debidos a la elevada concentración de la riqueza y el poder en manos de una minoría), como también con respecto a los campos de los derechos de propiedad intelectual, la propiedad de los datos, los problemas de aplicación y cumplimiento y los temas relacionados con los derechos fundamentales, incluidas las cuestiones éticas relacionadas con las nuevas tecnologías y la formación específica. Su manejo conceptual y su aplicación práctica, así como las consecuencias jurídicas y éticas que genera y los interrogantes que plantea, se harán evidentes con cada vez más intensidad. El tiempo es breve y mis reflexiones de ahora son parciales.
Nota
Para concluir, permítanme un último comentario, en particular por lo que respecta a su incidencia en toda la investigación preliminar y durante todo el proceso judicial. Las nuevas tecnologías inciden sin duda en las elecciones de las autoridades administrativas y judiciales u organismos públicos de otro tipo en el proceso de toma de decisiones, y a la hora de tomar su decisión final en el ejercicio de la autoridad. Por ejemplo, es sabido que las autoridades encargadas de la aplicación de la ley (por ejemplo, los agentes de las fuerzas y cuerpos de seguridad y los servicios de inteligencia) para fines de prevención, investigación, detección o enjuiciamiento de infracciones penales o de ejecución de sanciones penales disponen de amplios poderes coercitivos, en su jurisdicción, para investigar los sistemas informáticos e incautar datos (es decir la utilización generalizada de dispositivos electrónicos, aparatos de seguimiento, medios sociales, redes e interacciones en internet, etcétera), ordenar la entrega de datos informáticos concretos, y recoger macro datos, algoritmos, así como las correspondientes herramientas analíticas y dispositivos de inteligencia artificial. Sin duda representa una amenaza significativa para la privacidad y la intimidad de las personas, los derechos fundamentales (quiebras de la seguridad y responsabilidad) y las relativas al derecho a la tutela judicial efectiva y a un juicio justo, pero asimismo su seguridad física.
La automatización (decisiones automatizadas y basadas en algoritmos), los flujos transfronterizos de datos personales (datos sensibles), la robótica y la inteligencia artificial puede vulnerar varios derechos humanos fundamentales que han sido reconocidos internacionalmente en las que el tratamiento de datos personales es ilícito. Estos incluyen, entre otros, el derecho a un juicio justo y las garantías procesales, la privacidad y la libertad de expresión, la inteligibilidad de los procesos decisorios, la no discriminación, la transparencia y el derecho a un recurso efectivo, incluidas la dignidad, la autonomía y la autodeterminación del individuo. Los Estados deberán adoptar todas las medidas jurídicas necesarias con amplias salvaguardias y la posibilidad de control sobre la normativa que se haya de establecer, y procedimientos de verificación por parte de las personas en los procesos de toma de decisiones automatizados y basados en algoritmos para la protección de las personas físicas y los derechos fundamentales en lo que respecta al tratamiento de datos personales por parte de las autoridades competentes y vías de recurso adecuadas.
