Inteligencia artificial: el Estado peruano y corporaciones no podrán usar ChatGPT

Inteligencia artificial: el Estado peruano y corporaciones no podrán usar ChatGPT

inteligencia artificial estado peruano corporaciones podran usar chatgpt
Imagen: Internet.

Por: Julio Santisteban Pablo, docente del Departamento de Ciencia de la Computación de la Universidad Católica San Pablo, doctor en Ciencia de la de Computación, especialista en procesamiento del leguaje natural.

ChatGPT 3 o 4 están dando que hablar en muchas áreas de la industria. Un uso del ChatGPT en la industria es la capacidad de automatización de una gran variedad de procesos de alto nivel. Este es el caso del CEO de una subsidiaria de la empresa de videojuegos Fujian NetDragon Websoft, es una Inteligencia Artificial (IA) desde agosto de 2022 y las acciones obtuvieron mejores resultados.

Tang Yu (IA) fue responsable de todas las tareas típicas: revisar análisis de alto nivel, tomar decisiones de liderazgo, evaluar riesgos y fomentar un lugar de trabajo eficiente.

McKinsey Global Institute ha indicado que entre 400 a 800 millones de personas podrían verse desplazadas por la automatización y van a necesitar encontrar nuevos trabajos para 2030, en todo el mundo.

ChatGPT y sus distintas variaciones y versiones son modelos de IA basados en Redes Neuronales Profundas (DNN). Las DNN han sido retomadas a inicio de 2010 debido a la alta capacidad computacional, particularmente el uso de Unidades de Procesamiento de Gráficos (GPU) y abaratamiento de costos de hardware y software.

Una DNN genera muy buenos resultados desde 2018 con un desempeño superior a 90 % o 95 % en escenarios académicos. Por otro lado, DNN tiene una característica problemática fundamental, los científicos entienden el funcionamiento y control del modelo, pero no pueden explicar a ciencia cierta cómo es que el modelo genera los resultados de salida, cómo es que los datos se transforman dentro del modelo.

Una DNN utiliza internamente submodelos aleatorios, con cortes aleatorios, entre otras técnicas. Más aún si al modelo de DNN se le presenta los mismos datos en distinto orden, este genera resultados distintos, convirtiendo a los DNN en una caja negra. No es el caso de los modelos de IA clásicos, que sí se entiende cómo son transformados los datos.

Corporaciones en Australia están usando cada vez menos IA y más DNN. La razón es que están afianzando los principios de Inteligencia Artificial, donde se tienen 8 principios para la inteligencia artificial. Uno de ellos “transparencia”, y están enfocándose en el uso de modelos clásicos.

¿Qué significa transparencia en IA? Las corporaciones deben estar en la posición de explicar por qué el modelo funciona de la manera que lo hace y cómo es que los resultados son generados. Las DNN son muy difíciles y/o casi imposibles de explicar. Es por esto que las corporaciones no quieren estar en la posición de no poder explicar cómo sus procesos de DNN funcionan y cómo se transforman los datos dentro de un modelo de estas redes.

Los clientes tienen el derecho de tener una explicación de cómo los procesos generan los datos, más aún las corporaciones no quieren llegar al punto de estar en un proceso administrativo/judicial, tratando de explicar lo inexplicable.

El Perú no sólo usa el mismo principio, sino tiene una ley de transparencia, así como en otros países. Es así que el Estado peruano tendrá que explicar cómo es que un modelo de IA más DNN genera los resultados. Esto indica que el Estado y corporaciones usarán menos este tipo de modelos en un futuro cercano y se enfocarán en los clásicos, es decir, de los que sí hay un claro entendimiento de cómo funcionan y cómo son transformados los datos.

Por otro lado, corporaciones que quieran sacar provecho de ChatGPT y otras tecnologías que usen DNN, podrían optar por cambiar sus valores éticos a cambio de una mayor productividad.

La solución está en construir modelos de inteligencia artificial que sí se pueda explicar cómo funcionan y explicar cómo se transforman los datos dentro de la IA y no sólo tener una caja negra.

La investigación en Ciencia de la Computación debe responder estas preguntas: ¿cómo los datos se transforman en un DNN? ¿Qué otros modelos con el mismo desempeño podemos utilizar? ¿Entender por qué los resultados generados en un DNN o IA se dan de esa forma? Y desarrollar modelos de IA más accesibles económicamente y en tiempo para la industria. Recordemos que ChatGPT cuesta varias decenas de millones de dólares para entrenarlo por varios meses y unos cientos de miles de dólares para correrlo.

Por último, el no conocer cómo transforman los datos los modelos de Redes Neuronales Profundas o, en palabras más coloquiales, no saber cómo piensa un DNN, pone a las empresas en una situación muy comprometedora para ellas y sus clientes.

docente julio santisteban pablo

Julio Santisteban Pablo, docente del Departamento de Ciencia de la Computación de la Universidad Católica San Pablo.

Ultimas Noticias

Propuesta de intervención neuropsicológica en escolares de Ayaviri ganó concurso solidario de la San Pablo

“Allinta Ruwana”, que en quechua significa “Hacer el bien”, es el nombre del concurso que fomenta que la comunidad UCSP aporte en el desarrollo integral de poblaciones vulnerables en Arequipa y otras regiones. Este año tuvo su segunda edición. En total se presentaron cinco equipos con la misma cantidad de propuestas sociales.

Docente San Pablo: “La población no va a utilizar energías limpias si no son económicas”

“…Este desafío compete, principalmente, a los ingenieros, para desarrollar soluciones asequibles y económicamente rentables”, indicó el Mgtr. José Chávez Salinas, docente del Departamento de Ingeniería Eléctrica y Electrónica de la UCSP, en su ponencia en el Congreso Internacional de Energía, organizado por el Colegio de Ingenieros en Arequipa.

La San Pablo obtuvo la presidencia del Modelo de Organización de los Estados Americanos de 2024

La delegación de la Universidad Católica San Pablo (UCSP) tuvo una destacada participación en el MOEA, desarrollado en el campus Querétaro del Tecnológico de Monterrey en Querétaro, México. Es así que Alejandro José Sánchez Agramonte, estudiante de Ingeniería Industrial en la UCSP, fue elegido presidente para la edición del próximo año.