Ett forskarteam som säger sig vara från universitetet i Zürich har genomfört ett stort forskningsprojekt på det digitala forumet Reddit, utan att berätta om det och utan att ha tillstånd från Reddit.
I hemlighet så har forskarna använt AI-bottar som skrivit tusentals inlägg i r/changemyview där de falska inäggen har utgett sig för att vara ”våldtäktsoiffer”, ”en svart man” som var emot Black Lives Matter-rörelsen bland annat. Inläggen har framfört olika åsikter i inlägg och de som har svarat på inläggen har kartlagts av forskarna som då anpassat sina svar utefter kön, ålder, etnicitet, var personen bott och gissningar om politiska åsikter.
Avsikten med det storskaliga experimentet har varit, enligt forskarna, för att se om AI kan användas för att kunna använda användares åsikter.
Regler
Enligt Reddit så har forskarna inte informerat de ansvariga för det digital forumet om att AI-bottar har använts. Forskarna har inte ett om tillstånd, och hade de gjort det så hade de fått ett nej och avslag då AI-bottar inte tillåts i den aktuella kanalen. Forskarna har därmed brutit mot forumets regler.
Först i efterhand så har forskarna informerat Reddit:
”Over the past few months, we used multiple accounts to posts published on CMV. Our experiment assessed LLM’s persuasiveness in an ethical scenario, where people ask for arguments against views they hold. In commenting, we did not disclose that an AI was used to write comments, as this would have rendered the study unfeasible. While we did not write any comments ourselves, we manually reviewed each comment posted to ensure they were not harmful. We recognize that our experiment broke the community rules against AI-generated comments and apologize. We believe, however, that given the high societal importance of this topic, it was crucial to conduct a study of this kind, even if it meant disobeying the rules.”
Nedan ett exempel på ett av de inlägg som forskarna publicerat via en AI-bott:
