El reto de la moderación de contenidos en inteligencia artificial generativa: ChatGPT bajo el marco regulatorio de la Unión Europea

[ES] Este artículo aborda la problemática de la moderación de contenidos en los sistemas de Inteligencia Artificial Generativa (IAG). A través del caso de ChatGPT, exploramos como los diferentes instrumentos regulatorios impulsados recientemente por la Unión Europea no abordan de manera explícita la moderación de los contenidos generados por la IAG. Además, se argumenta que las plataformas privadas siguen operando con un alto grado de discrecionalidad, lo que genera preocupaciones significativas sobre su capacidad para gestionar de manera justa y efectiva los riesgos inherentes a la IAG. El texto enfatiza la importancia de democratizar la gobernanza en torno a la moderación de contenidos para proteger a los usuarios sin comprometer las libertades fundamentales, así como la multiculturalidad del espacio en línea.

[ENG] This article addresses the issue of content moderation in Generative Artificial Intelligence (GAI) systems. Through the case of ChatGPT, it explores how the different regulatory instruments recently promoted by the European Union do not explicitly address the moderation of content generated by GAI. Additionally, it is argued that private platforms continue to operate with a high degree of discretion, raising significant concerns about their ability to manage the inherent risks of GAI fairly and effectively. The text emphasizes the importance of democratizing governance around content moderation to protect users without compromising fundamental freedoms, as well as the multicultural nature of online space.