Reklama

Niezależna kontrola Anthropic musi spełnić warunki. Noblista wśród sygnatariuszy listu

Anthropic wpuścił do swojego laboratorium zewnętrznych kontrolerów i sam za ich pracę płaci. Kontrolę poprowadzi Faculty, firma należąca do Accenture, które kupuje usługi Anthropic i prowadzi z nim wspólny dział. Kontroler zależy więc od badanej firmy podwójnie, jako wykonawca opłacanej usługi i jako własność jej klienta.
Jakie warunki musi spełnić niezależna kontrola AI

Jakie warunki musi spełnić niezależna kontrola AI

Foto: REUTERS/Carlos Barria/File Photo

Reklama
Reklama
Reklama

Specjaliści Faculty mają w laboratorium Anthropic obserwować modele jeszcze podczas trenowania, sprawdzać zabezpieczenia przed udostępnieniem produktu użytkownikom, rozmawiać z pracownikami i korzystać z dostępu zbliżonego do tego, którym dysponują zespoły producenta. Dotąd o tym, co zewnętrzni badacze mogą zobaczyć od środka, decydowała wyłącznie sama firma. Anthropic otwiera więc laboratorium, lecz nadal sam określa warunki dostępu. Potrzeba takiej kontroli nie budzi większych wątpliwości. Krótka rozmowa w oknie czatu niewiele mówi o tym, jak zaawansowany model zachowa się w tysiącu innych sytuacji. Zewnętrzny badacz potrzebuje dokumentacji, odpowiednich narzędzi i wsparcia osób, które znają system od środka. Im szerszy jest jednak ten dostęp, tym więcej zależy od tego, czy kontroler może działać wbrew interesom firmy, która mu płaci i współpracuje z jego właścicielem.

Pozostało jeszcze 95% artykułu

BLACK WEEKS

Czytaj dalej w najniższej cenie w roku. Aż 60% rabatu na cały rok z „Rzeczpospolitą”.

  • dostęp do treści RP.PL w serwisie i aplikacji
  • codzienne wiadomości, wartościowe komentarze i autorskie opinie
  • pogłębione reportaże i publicystyka w Plusie Minusie
Reklama
Reklama
Promowane treści
Reklama
Reklama
REKLAMA: automatycznie wyświetlimy artykuł za 15 sekund.
Reklama
Reklama