Por: Julio Santisteban Pablo, docente del Departamento de Ciencia de la Computación de la Universidad Católica San Pablo, doctor en Ciencia de la de Computación, especialista en procesamiento del leguaje natural.

ChatGPT 3 o 4 están dando que hablar en muchas áreas de la industria. Un uso del ChatGPT en la industria es la capacidad de automatización de una gran variedad de procesos de alto nivel. Este es el caso del CEO de una subsidiaria de la empresa de videojuegos Fujian NetDragon Websoft, es una Inteligencia Artificial (IA) desde agosto de 2022 y las acciones obtuvieron mejores resultados.

Tang Yu (IA) fue responsable de todas las tareas típicas: revisar análisis de alto nivel, tomar decisiones de liderazgo, evaluar riesgos y fomentar un lugar de trabajo eficiente.

McKinsey Global Institute ha indicado que entre 400 a 800 millones de personas podrían verse desplazadas por la automatización y van a necesitar encontrar nuevos trabajos para 2030, en todo el mundo.

ChatGPT y sus distintas variaciones y versiones son modelos de IA basados en Redes Neuronales Profundas (DNN). Las DNN han sido retomadas a inicio de 2010 debido a la alta capacidad computacional, particularmente el uso de Unidades de Procesamiento de Gráficos (GPU) y abaratamiento de costos de hardware y software.

Una DNN genera muy buenos resultados desde 2018 con un desempeño superior a 90 % o 95 % en escenarios académicos. Por otro lado, DNN tiene una característica problemática fundamental, los científicos entienden el funcionamiento y control del modelo, pero no pueden explicar a ciencia cierta cómo es que el modelo genera los resultados de salida, cómo es que los datos se transforman dentro del modelo.

Una DNN utiliza internamente submodelos aleatorios, con cortes aleatorios, entre otras técnicas. Más aún si al modelo de DNN se le presenta los mismos datos en distinto orden, este genera resultados distintos, convirtiendo a los DNN en una caja negra. No es el caso de los modelos de IA clásicos, que sí se entiende cómo son transformados los datos.

Corporaciones en Australia están usando cada vez menos IA y más DNN. La razón es que están afianzando los principios de Inteligencia Artificial, donde se tienen 8 principios para la inteligencia artificial. Uno de ellos “transparencia”, y están enfocándose en el uso de modelos clásicos.

¿Qué significa transparencia en IA? Las corporaciones deben estar en la posición de explicar por qué el modelo funciona de la manera que lo hace y cómo es que los resultados son generados. Las DNN son muy difíciles y/o casi imposibles de explicar. Es por esto que las corporaciones no quieren estar en la posición de no poder explicar cómo sus procesos de DNN funcionan y cómo se transforman los datos dentro de un modelo de estas redes.

Los clientes tienen el derecho de tener una explicación de cómo los procesos generan los datos, más aún las corporaciones no quieren llegar al punto de estar en un proceso administrativo/judicial, tratando de explicar lo inexplicable.

El Perú no sólo usa el mismo principio, sino tiene una ley de transparencia, así como en otros países. Es así que el Estado peruano tendrá que explicar cómo es que un modelo de IA más DNN genera los resultados. Esto indica que el Estado y corporaciones usarán menos este tipo de modelos en un futuro cercano y se enfocarán en los clásicos, es decir, de los que sí hay un claro entendimiento de cómo funcionan y cómo son transformados los datos.

Por otro lado, corporaciones que quieran sacar provecho de ChatGPT y otras tecnologías que usen DNN, podrían optar por cambiar sus valores éticos a cambio de una mayor productividad.

La solución está en construir modelos de inteligencia artificial que sí se pueda explicar cómo funcionan y explicar cómo se transforman los datos dentro de la IA y no sólo tener una caja negra.

La investigación en Ciencia de la Computación debe responder estas preguntas: ¿cómo los datos se transforman en un DNN? ¿Qué otros modelos con el mismo desempeño podemos utilizar? ¿Entender por qué los resultados generados en un DNN o IA se dan de esa forma? Y desarrollar modelos de IA más accesibles económicamente y en tiempo para la industria. Recordemos que ChatGPT cuesta varias decenas de millones de dólares para entrenarlo por varios meses y unos cientos de miles de dólares para correrlo.

Por último, el no conocer cómo transforman los datos los modelos de Redes Neuronales Profundas o, en palabras más coloquiales, no saber cómo piensa un DNN, pone a las empresas en una situación muy comprometedora para ellas y sus clientes.

Julio Santisteban Pablo, docente del Departamento de Ciencia de la Computación de la Universidad Católica San Pablo.