Nie wyżywajcie się na Claude. Anthropic oficjalnie zakazuje znęcania się nad swoim AI

Osoby korzystające z Claude'a powinny zapoznać się z nową polityką użytkowania, która wejdzie w życie 12 listopada tego roku. W dokumencie Anthropic zaznaczył, jakich czynności nie powinni podejmować internauci, co dotyczy głównie nielegalnych działań i generowania treści krzywdzących innych ludzi. Pod ochronę wzięto również modele sztucznej inteligencji, którym poświęcono jeden z podpunktów regulaminu.

Anthropic bierze Claude’a pod ochronę

W zaktualizowanym dokumencie Anthropic przedstawił szereg działań, w które nie mogą angażować się użytkownicy Claude'a. Wymieniono między innymi zakaz szerzenia dezinformacji i ingerencji w wybory, tworzenia oprogramowania do obsługi uzbrojenia lub inwigilacji, a także wymóg nadzoru nad działaniami robota korzystającego z modelu AI Anthropica.

Powiązane:50 lat wzrostu kontra centrum danych. Jeden z ostatnich zagajników kasztanowca amerykańskiego może zostać wycięty

Dużą część nowej polityki poświęcono kwestiom dotyczącym krzywdzenia ludzi i zwierząt oraz znęcania się nad nimi. Korporacja całkowicie zabrania generowania tego typu treści, podobnie jak robiła to już wcześniej. Teraz jednak pojawił się dodatkowy fragment dotyczący bezpośrednio sztucznej inteligencji, który zakazuje następującego zachowania:

Podejście Anthropica wskazuje, że firma bierze pod uwagę przynajmniej możliwość pojawienia się świadomej sztucznej inteligencji w przyszłości. Korporacja zajmuje odmienne stanowisko niż Microsoft. W połowie września prezes Microsoftu ds. AI, Mustafa Suleyman, stwierdził, że „koncepcja dobrostanu modeli jest błędna. Sztuczna inteligencja nie powinna posiadać praw ani osobowości prawnej”.

Na zmiany w polityce użytkownika Anthropica mogły wpłynąć doniesienia z przełomu września i października tego roku. Dotyczyły one rzekomego powstania „sali tortur” dla modeli sztucznej inteligencji. Repozytorium dotyczące projektu pojawiło się na GitHubie; masowo zachęcano do jego zgłaszania, aby zostało usunięte z sieci.

Więcej:Google uruchomiło stronę, która ma powiedzieć, czy zdjęcie zrobiło AI. Sprawdzi również treści spoza ekosystemu Google

• tech
• AI / sztuczna inteligencja
• Anthropic
• Claude