Jakie warunki musi spełnić niezależna kontrola AI
Specjaliści Faculty mają w laboratorium Anthropic obserwować modele jeszcze podczas trenowania, sprawdzać zabezpieczenia przed udostępnieniem produktu użytkownikom, rozmawiać z pracownikami i korzystać z dostępu zbliżonego do tego, którym dysponują zespoły producenta. Dotąd o tym, co zewnętrzni badacze mogą zobaczyć od środka, decydowała wyłącznie sama firma. Anthropic otwiera więc laboratorium, lecz nadal sam określa warunki dostępu. Potrzeba takiej kontroli nie budzi większych wątpliwości. Krótka rozmowa w oknie czatu niewiele mówi o tym, jak zaawansowany model zachowa się w tysiącu innych sytuacji. Zewnętrzny badacz potrzebuje dokumentacji, odpowiednich narzędzi i wsparcia osób, które znają system od środka. Im szerszy jest jednak ten dostęp, tym więcej zależy od tego, czy kontroler może działać wbrew interesom firmy, która mu płaci i współpracuje z jego właścicielem.
BLACK WEEKS
Czytaj dalej w najniższej cenie w roku. Aż 60% rabatu na cały rok z „Rzeczpospolitą”.