Han pasado casi 70 años desde que un grupo de investigadores en Estados Unidos hablaron por primera vez de Inteligencia Artificial (IA).
Fueron 5 visionarios, reconocidos hoy como los padres fundadores de la IA: John McCarthy (Dartmouth College), Marvin Minsky (MIT), Nathaniel Rochester (IBM) y Claude Shannon (Bell). Eran tiempos en que un computador pesaba toneladas y ocupaba un salón completo.

Probablemente el concepto de IA que conocemos hoy no estaba en la cabeza de los padres fundadores, pero debemos reconocer el apoyo que el mundo público y privado ha entregado al desarrollo de la IA. Sin el apoyo de universidades como Dartmouth y el MIT o el apoyo de empresas privadas como IBM y Bell (QEPD) sería muy difícil el estado de arte actual.

Hoy tenemos “literalmente” la Inteligencia Artificial (IA) en la palma de la mano. Pasamos desde una gigantesca máquina Enigma de Turing, que descifraba códigos en la II Guerra Mundial, a consumir servicios de IA como ChatGPT desde nuestros celulares, a veces incluso integrados en nuestros WhatsApps.

Esto abre un desafío urgente por regular el uso de la IA, ya sea como herramientas o agentes (sistemas autónomos que pueden tomar decisiones). En el fondo, estamos en presencia de artefactos que bien usados son maravillosos. Así como con un cincel se puede tallar una catedral, también se puede usar para matar… Y en ambos casos no lo hace solo. Siempre está en la palma de la mano de un ser humano.

Pongo énfasis de lo cercano que tenemos estas tecnologías, pues con ChatGPT es muy fácil y tentador abusar de ellas.

El conflicto ético, entre el bien y el mal, lo encontraremos entonces en muchas formas.

Actualmente, se discute, por ejemplo, el uso de ChatGPT y los celulares en las salas de clases, comparándolos al uso y prohibición que tuvieron en su tiempo las calculadoras. Pero cuidado, hay diferencias importantes con una calculadora, que frente a una misma entrada (2+2) entrega siempre una misma salida o respuesta cierta (4). Con los ChatGPT esto no ocurre.

Primero, porque la entrada que hacemos en el prompt puede ser diversa y ahora cada vez más multimodal (texto, imágenes o videos), hasta acá una real maravilla. Sin quererlo, en un abrir y cerrar de ojos, creemos estar conversando con Inteligencia Artificial…

Segundo y acá viene lo peligroso. La salida que tenemos a nuestro prompt no siempre es una respuesta cierta. Técnicamente se dice que el modelo alucina para decir que simplemente inventa cosas. Así es, las respuestas de ChatGPT no siempre son ciertas, cada palabra que nos entrega es sólo la mejor palabra que el modelo calcula en función de sus datos de entrenamiento. Por lo mismo, ChatGPT no entiende sus propias respuestas, solo construye frases basadas en probabilidades y algoritmos.

Estamos frente a un desafío mayor. La aplicación de más rápida adopción en la historia de la tecnología (ChatGPT) tiene sus riesgos. Reproduce textos tontos “que parecen inteligentes”, reproduce imágenes de artistas que “parecen arte” o videos tan reales que ya no sabemos qué es lo verdaderamente real. ¿Somos conscientes de esto?

Como vemos, toda herramienta trae consigo responsabilidades, que debemos conocer para asegurar su uso correcto. Conocer sus limitaciones y riesgos es tan importante como conocer sus potencialidades, más aún cuando hablamos de soluciones que ayudan a tomar decisiones, ya sea para hacer una tarea en el colegio usando ChatGPT o para rechazar un crédito usando Machine Learning.

Efectivamente, en modelos predictivos hay avances gigantescos. Todo gracias a un potente cocktail de datos, algoritmos y una comunidad de desarrolladores muy activa. Pero, ¿tenemos consentimiento de todos los datos que usamos? ¿Hay sesgos en datos o algoritmos? ¿Podemos entender o trazar la lógica de esas cajas negras?

Como todo fan de Spiderman sabe: todo poder conlleva una gran responsabilidad. Y la industria financiera es una de las que más se ha beneficiado con desarrollos y aplicaciones de IA. Desde modelos con Machine Learning que predicen con gran precisión probabilidades de impagos, hasta roboadvisors, que analizan micro transacciones optimizando inversiones. Todos explotando ese BigData que crece cada día más.

A mi juicio, son los datos una de las principales fuentes de riesgo y desafíos actuales. Todos los últimos desarrollos en IA requieren grandes cantidades de datos para funcionar eficazmente. Esto plantea preocupaciones sobre la privacidad y la seguridad de los datos, especialmente si estos datos son mal gestionados o utilizados sin el consentimiento adecuado. Por ejemplo, recientemente nuestro país ha redefinido una nueva Ley de Datos Personales. Aunque hemos demorado, es un paso adelante en la dirección correcta.

Un caso emblemático ocurrió hace poco, en marzo del 2024, cuando en una entrevista Mira Murati, CTO de OpenAI (la empresa creadora de ChatGPT) explicaba su nueva herramienta Sora, capaz de crear increíbles videos con un prompt. En la entrevista, se le preguntó con qué datos habían sido entrenado sus modelos. Su respuesta, luego de titubear, fue… que no estaba segura.

Luego se le preguntó si habían usado datos de redes sociales, como YouTube, Instagram o Facebook y la respuesta siguió siendo vaga. No debemos extrañar, por cierto, que sigan aumentando las acciones legales por derechos de autor sobre estas compañías como OpenAI.

El riesgo de los sesgos (Bias) es otra de las grandes preocupaciones y también relacionada a los datos. En este caso, la preocupación es que los algoritmos de IA puedan reflejar y amplificar prejuicios existentes en los datos con los que fueron entrenados. Esto puede llevar a decisiones injustas o discriminatorias. Por ejemplo, si preguntas a ChatGPT por “los mejores líderes de todos los tiempos” la respuesta no incluirá mujeres. Acá el problema han sido los datos de entrenamiento, cosa que por cierto se está corrigiendo.

Otro problema que arrastran las soluciones de IA es su relación con la transparencia. Muchos sistemas de IA funcionan como “cajas negras”, lo que significa que sus procesos internos son opacos y difíciles de entender. Esto plantea problemas de responsabilidad y dificulta la confianza en las decisiones tomadas. Afortunadamente, se ha invertido mucho en entender y “aclarar” esas cajas negras.

A todo lo anterior, le podemos agregar otro condimento peligroso. Al igual que hace 70 años, el mundo público/privado ha seguido invirtiendo mucho dinero. En el último tiempo, quizás demasiado. Es impresionante la cantidad de emprendimientos que se cuelgan de la IA para levantar fondos, muchas veces más preocupados de hacer “algo” con IA que de generar valor de verdad.

Seguramente se sigan creando (y destruyendo) muchos emprendimientos apalancados en IA, incluso algunos hablan de la burbuja de la IA, comparándola con la burbuja de las puntocom…

Antes de que esto ocurra, si es que ocurre, reflexionemos sobre el uso que le damos a estas herramientas.

¿Qué decisiones está tomando tu empresa con IA?