*MSc. Juan Gabriel Alpízar Méndez

·      La tecnología no define por sí sola nuestro futuro: son las decisiones humanas, el conocimiento, nuestros valores y la ética los que determinan si se convierte en una amenaza o en una herramienta al servicio de la sociedad.

La inteligencia artificial (IA) ya forma parte de actividades cotidianas, productivas y educativas, y esto solamente seguirá incrementándose en el futuro. Sin embargo, su capacidad para procesar información, generar contenidos y automatizar tareas también puede ser aprovechada con fines perjudiciales. 

Distintos medios de comunicación han informado sobre los riesgos concretos relacionados con el mal uso de la IA: clonación de voces, suplantación de identidad, imágenes o videos falsos, correos fraudulentos, páginas que imitan sitios oficiales o programas maliciosos; y estos son solo algunos de los problemas potenciados con el mal uso de ella. El problema no es que la IA tenga una intención propia. Detrás de cada uso existen personas que definen el propósito, seleccionan los datos y deciden cómo utilizar los resultados.

Esta distinción es esencial. Cuando alguien utiliza una voz clonada para inventar una emergencia y solicitar dinero, la herramienta actúa como un medio para el engaño. Algo similar ocurre cuando se producen contenidos falsos para dañar la reputación o se automatizan mensajes destinados a obtener contraseñas y códigos de seguridad. La rapidez y la escala de estas acciones pueden aumentar con la IA, por lo que la respuesta social no debe limitarse al temor: requiere educación, verificación, medidas de seguridad y profesionales capaces de detectar patrones sospechosos.

Ciencia de datos, profesionales e inteligencia artificial: una misma ruta

La IA no apareció de manera espontánea. Su desarrollo ha sido posible gracias al trabajo acumulado de especialistas en áreas como informática, estadística, matemáticas o una combinaciones de ellas, ahora llamada la ciencia de datos. En términos sencillos, muchos sistemas de IA aprenden a reconocer relaciones a partir de grandes cantidades de datos. Para lograrlo utilizan modelos construidos con matemáticas avanzadas, procedimientos de cómputo, estadística avanzada de probabilidades y criterios humanos sobre cuáles datos incluir, qué problema resolver, cómo evaluar los resultados y qué entregar como producto.

El científico de datos participa en ese proceso: estudia la información, identifica patrones, construye modelos y comunica hallazgos para apoyar decisiones. Su labor no consiste únicamente en dominar programas o fórmulas. También debe preguntarse si los datos son adecuados, si representan a la población, si contienen sesgos, si se protege la privacidad y qué consecuencias podría generar una recomendación automatizada. La ética profesional, por tanto, no es un complemento opcional; forma parte de la calidad del trabajo. Un modelo técnicamente preciso podría ser socialmente inaceptable si invade la privacidad, discrimina o facilita un daño con tal de perjudicar a alguien y beneficiarse momentáneamente de ello.

La misma capacidad, dos propósitos diferentes

Pensemos en un automóvil utilizado dentro de una comunidad. Puede llevar a una persona a su trabajo o trasladar a un familiar a una cita médica. También puede emplearse de manera irresponsable: para bloquear una entrada, incumplir normas de tránsito o trasladar objetos obtenidos mediante un engaño. El vehículo es el mismo; cambian la intención, las decisiones y la responsabilidad de quien lo conduce. Además, existen licencias, reglas y controles porque la sociedad reconoce tanto su utilidad como sus riesgos.

Con la IA ocurre algo semejante. La generación de una voz sintética puede utilizarse para suplantar a un familiar y pedir una transferencia; pero una tecnología relacionada también puede apoyar recursos de accesibilidad para personas que han perdido la capacidad de hablar, siempre que exista consentimiento y protección de sus datos. El análisis automatizado de imágenes puede producir montajes engañosos, pero también puede apoyar —sin sustituir el criterio médico— la identificación de señales que requieren revisión clínica. La capacidad técnica no determina el resultado moral: lo hacen el objetivo, el contexto, las salvaguardas y las personas responsables.

Usar datos e IA para proteger a la sociedad

La ciencia de datos puede ayudar a contrarrestar los malos usos de la IA mediante el análisis de patrones. Por ejemplo, un sistema puede señalar comportamientos inusuales en transacciones, identificar campañas repetitivas de mensajes fraudulentos o detectar cambios atípicos en contenidos digitales para que especialistas los revisen luego de recibir las respectivas alertas. Estas herramientas no deben convertir una sospecha estadística en una acusación automática, si no que su función es priorizar casos, aportar evidencia para la evaluación y mejorar la capacidad de respuesta de instituciones y organizaciones.

La ciudadanía también cumple un papel. Ante un mensaje urgente que solicita dinero, conviene confirmar la situación por otro canal. Antes de entregar información personal, es necesario revisar quién la solicita y con qué propósito. También resulta prudente verificar las direcciones de los enlaces, mantener actualizados los dispositivos, usar contraseñas seguras y consultar fuentes oficiales antes de compartir audios, imágenes o videos. Estas prácticas no eliminan todos los riesgos, pero reducen la posibilidad de que la velocidad tecnológica sustituya el juicio crítico, lo que nunca debe ocurrir.

Los profesionales de cualquier ámbito deben aportar a la sociedad

El potencial positivo es amplio. En salud, el análisis de datos puede apoyar investigaciones y sistemas de detección temprana del cáncer, sujetos a validación clínica y protección de la información. En los emprendimientos, puede ayudar a comprender las necesidades de los clientes, administrar inventarios, crear herramientas que automaticen tareas repetitivas y tomar decisiones con evidencia. En la gestión pública, permite organizar datos sobre presupuestos, servicios y resultados para fortalecer la rendición de cuentas. En educación, puede orientar apoyos diferenciados, identificar dificultades de aprendizaje y ampliar el acceso a recursos, siempre con supervisión docente y sin etiquetar al estudiantado.

Si se utiliza la ciencia de datos como ejemplo de aprendizaje, se puede iniciar con una ruta clara: comprender el problema antes de buscar una herramienta, desarrollar bases de estadística y programación, aprender a evaluar la calidad de los datos y estudiar principios de privacidad, transparencia, equidad y temas éticos relacionados. Después deben comunicar resultados de forma comprensible y reconocer los límites de cada modelo. La pregunta no debería ser solamente “¿qué puede hacer esta tecnología?”, sino “¿a quién beneficia, qué riesgo crea y cómo podemos comprobar que funciona de manera justa?”.

La respuesta al mal uso de la IA no consiste en renunciar al conocimiento, sino en orientarlo y encaminarlo hacia el mayor beneficio social. Necesitamos profesionales competentes, instituciones responsables y una ciudadanía informada. Desde la Universidad Nacional (UNA) colaboramos con ello, tratando temas éticos con los estudiantes, desde ámbitos académicos y profesionales. Los orientamos desde nuestros conocimientos y experiencias para procurar inculcarles la ética como pilar en su desarrollo profesional. Reconocemos que esto es necesario pero no suficiente, por ello invitamos a los demás ámbitos sociales a sumarse a estos esfuerzos y con ello tener mejores ciudadanos. 

La ciencia de datos ofrece métodos para comprender problemas, anticipar riesgos y diseñar soluciones basadas en evidencia; cuando se combina con valores como la ética, controles y compromiso social, puede convertirse en una vía concreta para proteger a las personas, mejorar oportunidades y poner la innovación al servicio de toda la humanidad.

*El autor es docente de la carrera de Inteligencia y Estrategia Global de la Escuela de Relaciones Internacionales de la Universidad Nacional (UNA).