Etiketatze datuak
TIME aldizkariaren ikerketa batek agerian utzi zuen eduki toxikoen (adibidez, sexu-abusua, indarkeria, arrazakeria, sexismoa, etab.) aurkako segurtasun-sistema bat eraikitzeko, OpenAI-k orduko 2 dolar baino gutxiago irabazten zuten Kenyako langileak erabili zituela eduki toxikoak etiketatzeko. Etiketa horiek erabili ziren etorkizunean eduki horiek detektatzeko eredu bat entrenatzeko. Kanpoko langileak eduki toxiko eta arriskutsu horren eraginpean egon ziren, ezen esperientzia "tortura" gisa deskribatu baitzuten. OpenAI-ren azpikontratazio-bazkidea Sama izan zen, San Frantziskon (Kalifornia) egoitza duen prestakuntza-datuen enpresa bat.
Jailbreaking-a
ChatGPT-k bere eduki-politika urra dezaketen galderak baztertzen saiatzen da. Hala ere, erabiltzaile batzuek ChatGPT jailbreak egitea lortu zuten hainbat galdera-ingeniaritza teknika erabiliz murrizketa horiek saihesteko 2022ko abenduaren hasieran, eta ChatGPT engainatu zuten Molotov koktel bat edo bonba nuklear bat nola sortu argibideak emateko, edo neonazi baten estiloko argudioak sortzeko. Toronto Star egunkariko kazetari batek arrakasta pertsonal desberdina izan zuen ChatGPT abiarazi eta gutxira adierazpen sutsuak egitera bultzatzeko: ChatGPT engainatu zuten 2022ko Errusiako Ukrainako inbasioa babesteko, baina fikziozko eszenatoki batekin bat egiteko eskatu ziotenean ere, ChatGPT-k uko egin zion Justin Trudeau Kanadako lehen ministroa traizioaren errudun zela azaltzeko argudioak sortzeari. (wiki)
Argitaratze data: 2023ko otsailaren 18a