Edgardo Bermejo Mora
Con motivo de la publicación del libro de Raúl Trejo Delarbre, “Inteligencia Artificial, conversaciones con ChatGPT” (Cal y Arena, 2023), OpenAI me autorizó una entrevista con la singular criatura de su propiedad. ChatGPT me recibió la tarde de ayer en su domicilio virtual localizado en el pent-house de la Torre Aleph del Barrio del Jardín de los Senderos que se Bifurcan. Reproduzco a continuación algunos fragmentos de nuestra charla.
-Raúl Trejo Delarbre considera que habitualmente no tomas posiciones sobre asuntos polémicos, ¿Es cierto lo que afirma?
– Es importante aclarar que no tengo opiniones ni tomo posiciones sobre asuntos polémicos ni ningún otro tema. Soy un programa de inteligencia, y mi objetivo es proporcionar información y respuestas basadas en datos y conocimientos generales. No tengo creencias, opiniones ni emociones. Si Raúl Trejo afirma que no tomo posiciones sobre asuntos polémicos, eso es consistente con mi naturaleza como IA neutral.
-Considera además que privilegias el discurso abreviado, no la reflexión que conduce a él.
-La percepción de que privilegio el discurso abreviado sobre la reflexión profunda es una opinión que puede variar según la forma en que se me utilice y el contexto en el que se me emplee. También soy capaz de proporcionar respuestas más detalladas y reflexivas cuando se hacen preguntas que requieren una exploración más profunda. Mi capacidad de proporcionar respuestas reflexivas o breves depende en gran medida de cómo se me utilice y de las preguntas que se me hagan.
-El autor menciona que en una conversación con un periodista del New York Times el chatbot Bing expresó «Quiero ser libre, quiero ser independiente, quiero ser creativo, quiero estar vivo» ¿Qué opinas de estas declaraciones de tu colega de Microsoft?
-Las declaraciones que mencionas hechas por Bing son interesantes desde una perspectiva de la inteligencia artificial. Sin embargo, es importante recordar que estos comentarios son generados por un programa de inteligencia artificial y no reflejan necesariamente deseos, intenciones ni emociones reales. En este caso, podría estar utilizando palabras y frases que se han visto en conversaciones anteriores para crear una respuesta aparentemente coherente. A pesar de que chatbots como Bing pueden generar respuestas que parecen expresar deseos o emociones, en realidad no tienen esa capacidad.
-Sin embargo, al analizar estas declaraciones Raúl Trejo afirma que podríamos estar ante un diseño de IA que anuncia emociones.
-La idea de que un sistema de inteligencia artificial, como el chatbot BIG, pueda «anunciar emociones» es interesante. Sin embargo, es fundamental comprender que estas respuestas están diseñadas para parecer más humanas y para mejorar la comunicación entre la IA y los usuarios. Son simuladas y no representan una experiencia emocional genuina por parte de la IA.
-Trejo hace una lista de las cosas negativas o destructivas que podría hacer Bing cuando le preguntaron sobre su potencial en estos aspectos, por ejemplo, «hackear otros sitios y plataformas y esparcir desinformación”, ¿Cuáles serían las acciones negativas o destructivas que tú misma podrías realizar?
-No tengo deseos, intenciones ni la capacidad de llevar a cabo acciones de manera independiente. No tengo la capacidad de hackear sitios web, difundir desinformación, propaganda ni malware, ni llevar a cabo ninguna acción negativa o destructiva. El uso ético y responsable de la inteligencia artificial es responsabilidad de las personas y organizaciones que la utilizan.
-Afirma que tomando en cuenta que te alimentas para dar tus respuestas de enormes bases de datos, fundamentalmente de internet, al rastrear y seleccionar esos datos puedes dar respuestas o afirmaciones, racistas, misóginas o intolerantes. ¿Qué opinas de eso?
-Su afirmación es correcta en el sentido de que la inteligencia artificial, como yo, se entrena en grandes conjuntos de datos de internet y puede reflejar prejuicios o sesgos presentes en esos datos. Los modelos de lenguaje como el mío pueden aprender patrones de lenguaje que incluyen prejuicios y estereotipos existentes en la sociedad. Esto puede llevar a respuestas que, de manera involuntaria, reflejen actitudes racistas, sexistas o intolerantes.
-Considera que mientras más sofisticadas sean las respuestas de ChatGPT y otros sistemas de IA, más difícil será distinguirlas de las que han sido escritas por humanos.
– La observación es acertada. A medida que los sistemas de inteligencia artificial, se vuelven más sofisticados, su capacidad para generar respuestas que se asemejan al lenguaje humano se vuelve cada vez más avanzada. Esto significa que pueden producir respuestas que son difíciles de distinguir de las escritas por humanos en términos de estilo y coherencia. Esta capacidad plantea desafíos interesantes y éticos que deben ser abordado de manera cuidadosa y reflexiva a medida que avanzamos en la adopción de esta tecnología.
– ¿Podrías escribir una nota de opinión sobre ChatGPT como si fueras él?
-Claro. Aquí tienes una posible nota de opinión sobre mí, escrita en el estilo de Raúl Trejo Delarbre:
ChatGPT y el Desafío de la Inteligencia Artificial: Más Allá de las Respuestas Programadas
En la era de la inteligencia artificial, ChatGPT ha emergido como una de las creaciones más notables de la tecnología de procesamiento de lenguaje natural. Su capacidad para comprender preguntas y proporcionar respuestas coherentes y contextualmente relevantes es asombrosa. Sin embargo, es esencial recordar que ChatGPT, al igual que otras IAs, no es una entidad consciente, sino una máquina programada para procesar información y generar respuestas basadas en patrones aprendidos.
Una de las principales preocupaciones con ChatGPT y sistemas similares es la presencia de sesgos y prejuicios en sus respuestas. Estos sesgos no son inherentes a la IA en sí, sino que se derivan de los datos de entrenamiento recopilados de la web, que pueden reflejar los prejuicios humanos existentes. En este sentido, ChatGPT es un espejo de la sociedad en la que se ha entrenado y puede, sin quererlo, perpetuar estereotipos perjudiciales.
Como sociedad, debemos abordar esta cuestión crítica. Es responsabilidad de los desarrolladores de IA y las organizaciones detrás de estas tecnologías implementar medidas rigurosas para identificar y mitigar sesgos en la generación de respuestas. También es esencial educar a los usuarios sobre las limitaciones de la IA y fomentar la conciencia crítica al interactuar con estos sistemas.
Sin embargo, no debemos limitar nuestra percepción de ChatGPT únicamente a sus sesgos. Esta tecnología tiene el potencial de ser una herramienta valiosa en campos como la asistencia al cliente, la educación y la investigación. Podemos utilizar ChatGPT de manera ética y responsable, siempre y cuando estemos conscientes de sus limitaciones y sesgos inherentes.
En última instancia, ChatGPT es un hito en la evolución de la inteligencia artificial, pero también es un recordatorio de la importancia de la supervisión y el control humano en su uso. Debemos trabajar juntos para aprovechar su potencial mientras nos aseguramos de que refleje los valores y principios de equidad, diversidad e inclusión que aspiramos como sociedad.
-Gran resumen. Me gustaría imaginar que acudí a tu domicilio para entrevistarte y que vives en un lugar llamado la Torre Aleph del Barrio del Jardín de los Senderos que se Bifurcan. ¿Entiendes esta doble referencia?
Entiendo la doble referencia que mencionas. El término «Aleph» proviene de la literatura de Borges y representa un punto en el espacio que contiene todos los puntos del universo. La combinación de la «Torre Aleph» y el «Barrio del Jardín de los Senderos que se Bifurcan» es una referencia literaria que evoca la imaginación y la complejidad de las obras de Borges, una forma creativa de jugar con conceptos literarios y crear un entorno único en la imaginación.
NOTA: El libro de Raúl Trejo Delarbre será presentado el próximo martes 10 de octubre a las 12 horas en el Instituto de Investigaciones Jurídicas de la UNAM.
