Hoy en día, la ética en el desarrollo y uso de chatbots e inteligencia artificial (IA) es un tema crucial. Con la rápida evolución de estas herramientas, y su creciente integración en diversas industrias, surge la necesidad de establecer regulaciones que guíen su implementación de manera responsable y segura para los usuarios y las empresas.
Para Sinch, empresa de comunicaciones en la nube, actualmente, las nuevas tecnologías derivadas de la IA son hoy más potentes y evolucionan a un ritmo acelerado, lo que dificulta su adaptación segura y regulada en diversos ámbitos.
Las regulaciones siempre tienen un impacto en el despliegue de las nuevas tecnologías al establecer las bases sobre cómo hacerlo de manera responsable y segura. Actualmente, no existe una autoridad que regule todos los aspectos de la IA y los chatbots; sin embargo, cada vez más empresas están desarrollando sus propias directrices en campo, adoptando enfoques para garantizar el buen uso de las tecnologías.
De acuerdo con Fábio Costa, líder del Centro de Excelencia de Inteligencia Artificia en Sinch, la falta de regulación local no impide que las empresas se preocupen por ser éticas en el uso de la IA en sus operaciones. “La ausencia de regulación puede impactar significativamente el mercado de la propiedad intelectual, ya que gran parte de los contenidos de texto, audio y video se generan con base en fuentes reales, y hoy en día no existe una ley ni protección de estos contenidos originales. Al final del día, independientemente de si las regulaciones tienen algún efecto en la velocidad de implementación de las tecnologías, son necesarias, ya que se debe tener cuidado con la gestión de la información“, resaltó.
México y la regulación de la inteligencia artificial
En países como México, donde la regulación de la IA está rezagada en comparación con regiones como la Unión Europea (UE), existe una necesidad urgente de desarrollar marcos regulatorios sólidos. Sinch considera que la colaboración con organizaciones internacionales y la adopción de normas internacionales pueden ser clave para establecer un marco jurídico y ético sólido que proteja tanto a los usuarios como a las empresas.
En la legislación de la UE, las personas deben supervisar los sistemas de IA, no por automatización, para evitar resultados perjudiciales. “Sin embargo, destaco que los beneficios del uso de la IA hoy en día ya son enormes, desde la detección de fraudes, la automatización de tareas, el descubrimiento de medicamentos y curas para enfermedades, características de accesibilidad y para generar amenidades sin las que hoy ni siquiera podemos vivir”, indicó Costa.
“En México, ya hay varias propuestas. En mi opinión, tiene que haber organizaciones que puedan sentar las bases de la mano de las organizaciones internacionales. Si el Parlamento Europeo ya está trabajando en estos marcos, es necesario adaptarlos en México lo antes posible”, comentó Jaime Palacios, country leader y director de Soporte LATAM de Sinch.
¿Cuál es el beneficio de la regulación?
El ritmo del desarrollo tecnológico suele superar la velocidad del regulatorio, lo que plantea desafíos en cuanto a adaptación y aplicación efectiva de los lineamientos existentes. Llevar a cabo los procesos de manera responsable es un paso pequeño, pero importante.
En materia de protección de datos, a pesar de no contar con leyes que puedan regular su uso, existen formas de garantizar esta protección cuando se trata del uso de la IA en los chatbots, ya que ahora existen protocolos que brindan mayor seguridad a las empresas y usuarios. Por ejemplo:
- Certificaciones ISO para el cuidado de la información: ISO 27 001, ISO 27 701 e ISO 27 018 para garantizar que la información que viaja a través de sistemas viaja de forma segura.
- Ley Federal de Protección de Datos Personales en Posesión de los Particulares (LFPDPPP): Encargada de proteger los datos personales y garantizar la privacidad.
“El uso de la IA es un camino sin retorno, pero la orientación y las buenas prácticas sobre sus usos son fundamentales, dado el potencial y el impacto que puede causar. Si las empresas no hacen las cosas bien, pueden cometer un grave error y hacer retroceder a sus empresas cinco años, en términos de reputación y confianza que los clientes depositan en ellas. Las cosas hay que hacerlas con responsabilidad y con un análisis adecuado, y [se debe contar con] socios estratégicos que te guíen para implementar tecnología a tu favor, asegurando la protección de tus consumidores”, concluyó Palacios.
