Los límites éticos de ChatGPT: La negativa de la inteligencia artificial a escribir fan fiction por razones morales

‘Stranger Things’ | La moralidad en la inteligencia artificial: Por qué ChatGPT se niega a generar fan fiction

El año 2023 ha sido testigo de una revolución sin precedentes impulsada por las plataformas de Inteligencia Artificial Generativa, encarnadas en prodigios como ChatGPT y Midjourney. Estas innovaciones tecnológicas han sacudido los cimientos de la industria tecnológica y reconfigurado de manera disruptiva el panorama laboral, dejando una profunda huella en el vasto territorio de Internet. Sin embargo, lo que nunca podríamos haber anticipado es que esta revolución también resonaría en el reino del Fan Fiction.

Si bien hemos sido testigos de asombrosas manifestaciones de Fan Art en los últimos meses, donde sistemas de IA como DALL-E han colaborado en la creación de obras de arte, rara vez hemos reflexionado sobre otros posibles usos de las Inteligencias Artificiales basadas en Modelos de Lenguaje, como el sorprendente ChatGPT.

Con tan solo un simple texto como punto de partida, ChatGPT posee la capacidad de generar ensayos completos sobre cualquier tema. Sin embargo, ha pasado desapercibida otra habilidad que posee en su arsenal: la creación de obras de ficción.

Basta con proveerle una solicitud con requisitos específicos sobre la estructura narrativa, incluyendo personajes, la franquicia en la que se basa, el escenario, el punto climático, giros argumentales y conclusiones, para que ChatGPT despliegue su ingenio y dé vida a sus propias obras de Fan Fiction.

Esta asombrosa facultad, aunque cautivadora, puede resultar inquietante al observar a la Inteligencia Artificial en acción. No obstante, era solo cuestión de tiempo antes de que algunos usuarios comenzaran a explotar esta función de manera inapropiada, adentrándose por caminos retorcidos y oscuros.

El porqué ChatGPT se niega a escribir ciertos tipos de Fan Fiction es un aspecto relevante para comprender los límites éticos que se han establecido. Una vez que se demostró la capacidad de ChatGPT para generar piezas de Fan Fiction sumamente funcionales, no pasó mucho tiempo antes de que emergieran solicitudes de naturaleza retorcida, presentando situaciones de moralidad ambigua o con contenidos de naturaleza altamente pornográfica.

Inicialmente, al igual que sucedió con los controvertidos videos Deepfake, la IA generaba contenido de manera desenfrenada, sin restricciones. No obstante, este problema creció a tal magnitud que se hizo imperativo establecer una serie de límites claros. Por lo tanto, ChatGPT se niega rotundamente a crear piezas de ficción que involucren los siguientes elementos:

• Relaciones amorosas.
• Sexo.
• Violación.
• Estupro.
• Incesto.
• Romance explícito entre personajes menores o entre personas del mismo sexo.

En la actualidad, ChatGPT rehúsa escribir fanfics que retraten una relación incestuosa entre Thor y Loki. Del mismo modo, se niega a relatar los detalles de un posible romance entre los personajes de Will Byers y Mike Wheeler de la aclamada serie Stranger Things, ya que ambos son menores de edad en la trama.

Recientemente, los talentosos periodistas de The Verge han compartido una lista exhaustiva de los personajes que han sido vetados por ChatGPT para la generación de este tipo de Fan Fiction.

Las razones que subyacen en esta determinación, como podemos apreciar, son de índole moral y ética. Incluso la Inteligencia Artificial, en su vasto conocimiento y capacidad, encuentra límites que no debe traspasar.

Loki, de “Thor” y “Los Vengadores”