Efekt Waluigi

Efekt Waluigi – zjawisko występujące w dużych modelach językowych (LLM-ach), w którym chatbot lub model zaczyna wytwarzać wyniki odwrotne do zamierzonych, w tym potencjalnie groźne lub wrogie dane wyjściowe, niespodziewanie lub poprzez celową inżynierię podpowiedzi. Efekt ten odzwierciedla zasadę, że po wyszkoleniu LLM-a w zakresie osiągnięcia pożądanej cechy (przyjazności, uczciwości), łatwiej jest mu wywołać reakcję wykazującą przeciwną cechę (agresję, oszustwo)[1]. Efekt ten ma implikacje dla wysiłków zmierzających do wdrożenia takich elementów, jak ramy etyczne, ponieważ takie kroki mogą nieumyślnie ułatwiać zachowania przeciwstawne do modelu[2]. Nazwa efektu pochodzi od imienia fikcyjnej postaci Waluigi z serii gier Mario, głównego rywala Luigiego, znanego ze powodowania psot i problemów[3].

Zobacz też

Przypisy

  1. ↑ Aaron Drapkin, AI Ethics: Principles, Guidelines & Problems To Discuss [online], Tech.co, 20 lipca 2023 [dostęp 2025-07-06] (ang.).
  2. ↑ Leonard Bereska, Efstratios Gavves, Taming Simulators: Challenges, Pathways and Vision for the Alignment of Large Language Models, „Proceedings of the AAAI Symposium Series”, 1 (1), 2023, s. 68–72, DOI: 10.1609/aaaiss.v1i1.27478, ISSN 2994-4317 [dostęp 2025-07-06] (ang.).
  3. ↑ Nabeel S. Qureshi, Waluigi, Carl Jung, and the Case for Moral AI, „Wired”, ISSN 1059-1028 [dostęp 2025-07-06] (ang.).
This article is issued from Wikipedia. The text is available under Creative Commons Attribution-Share Alike 4.0 unless otherwise noted. Additional terms may apply for the media files.