Společnost Anthropic se pokouší omezit »vztah« mezi lidmi a chatboty a oznamuje zákaz systematického verbálního napadání své umělé inteligence.
Tvůrce Claude aktualizoval podmínky služby a srovnává »drsné zacházení« se stroji se závažnými digitálními přestupky, jako je kyberšikana a deepfakes. Tento krok otevřel nečekanou filozofickou a technologickou debatu: Měli bychom být k algoritmům laskaví? Zatímco právníci a vedoucí pracovníci v oboru varují, že antropomorfizace matematických modelů představuje rizika, nová generace na sociálních sítích se již zdá být distancována a používá hanlivé výrazy jako »clanker« k označení technologie, která ohrožuje budoucí pracovní místa.
Na černé listině
Od nynějška budou systémy automaticky ukončovat interakce, v nichž se uživatelé chovají »drsně«, což je opatření, které společnost v minulosti zavedla ve vzácných případech. Tento čin je nyní na seznamu zakázaných činností spolu s kyberšikanou, podněcováním k sebepoškozování a vytvářením zmanipulovaných fotografií a videí bez povolení.
Ačkoli společnost Anthropic objasnila, že omezení bude spuštěno pouze v extrémních případech opakovaného zneužívání, rozhodnutí znovu rozpoutalo veřejnou debatu o tom, jak komunikovat s nástroji umělé inteligence. Administrativa objasnila, že nová pravidla se nezabývají frustrací běžných uživatelů, vášnivými diskusemi, psaním textů s temnými nebo provokativními tématy, ani testováním výzkumníků, což naznačuje, že opatření je zaměřeno výhradně na úmyslné jednání.
Antropomorfizace umělé inteligence
»Na čísla a matematiku nemůžete být přísní,« napsal na LinkedInu Dr. Barry Scannell, technologický partner irské právnické firmy William Fry. »Tento druh antropomorfizace umělé inteligence je škodlivý, protože vede lidi k přesvědčení, že technologie má vlastnosti, kterými nedisponuje.«
Ředitel umělé inteligence společnosti Microsoft Mustafa Suleiman – který v září kritizoval Anthropic za jeho tendenci zacházet s modely jako s lidskými entitami – reagoval na aktualizaci zveřejněním emoji s rozplývajícím se obličejem.
Změny, které odhalila technologická síť The Verge, přišly po každoročním přezkumu zásad užívání společnosti.
Aktualizace si klade za cíl řešit i nově vznikající rizika v dalších oblastech a zakazuje používání platformy Claude pro zavádějící kampaně. Zároveň s ohledem na volby v polovině volebního období ve Spojených státech je výslovně objasněno, že platforma nesmí být použita k klamání voličů ani k narušování volebního procesu. Anthropic dodala, že její politika již brání použití jejích nástrojů k vývoji zbraní. Žádný jiný doplněk však nepřilákal tolik zájmu ani kritiky veřejnosti jako rozhodnutí zakázat verbální napadání chatbotů.
Být či nebýt ušlechtilým
Rozhodnutí se také dotýká hojně diskutované otázky užitečnosti zdvořilosti při používání produktivních nástrojů umělé inteligence. Někteří odborníci tvrdí, že výrazy jako »prosím« nebo »děkuji« jsou v systémech, jako je ChatGPT, zbytečné, protože plýtvají cennými tokeny, které velké jazykové modely používají ke zpracování a formulování odpovědí. Naopak jiná skupina analytiků tvrdí, že zdvořilé chování může přinést kvalitnější výsledky.
Když se uživatel platformy X zeptal na náklady na energii, které ChatGPT vynakládá kvůli zdvořilým pozdravům od veřejnosti, šéf OpenAI Sam Altman charakteristicky odpověděl, že jsou to »desítky milionů dolarů dobře vynaložených, protože člověk nikdy neví«.
Někteří odborníci navíc varují, že systematická hrubost vůči chatbotům může negativně ovlivnit lidskou komunikaci a postupně změnit způsob, jakým mluvíme a chováme se k lidem kolem nás.
(is)
FOTO – Anthropic