Anthropic rezygnuje ze swojej wiodącej w branży obietnicy bezpieczeństwa — co się zmieniło i dlaczego to ma znaczenie

Podsumowanie

• Anthropic łagodzi swoje zobowiązanie dotyczące bezpieczeństwa.
• Dawny twardy zakaz rozwoju w firmie został zastąpiony obietnicą zwiększonej przejrzystości.
• Ten ruch grozi obniżeniem standardów bezpieczeństwa w przemyśle.

Anthropic, twórcy agenta AI Claude (jednego z naszych ulubionych narzędzi do produktywności), wycofali się z jednej ze swoich kluczowych cech wyróżniających — surowego zobowiązania do bezpieczeństwa. W poście na blogu firma przedstawiła swoją Politykę Odpowiedzialnego Skalowania (RSP) oraz zmiany uwzględnione w wersji 3.0.

Jaka była stara polityka bezpieczeństwa Anthropic?

Firma ustaliła standard branżowy dla barier ochronnych

Aby zrozumieć zmiany wprowadzane przez Anthropic, musisz najpierw zrozumieć oryginalny RSP. W 2023 roku Anthropic zobowiązał się do zaprzestania trenowania modeli AI, jeśli ich możliwości przewyższyłyby zdolność firmy do udowodnienia, że są bezpieczne. Czerwone flagi bezpieczeństwa, które uruchomiłyby ten przełącznik, obejmowały:

• Modele, które mogłyby pomóc w tworzeniu lub wdrażaniu broni chemicznej, biologicznej lub jądrowej.
• Modele, które mogłyby poprawiać się w nadmiernym stopniu.
• Modele, które mogłyby pomagać w cyberatakach.
• Modele, które mogłyby działać w określony sposób bez udziału człowieka, na przykład „uciekając” ze swojego środowiska, aby uniknąć wyłączenia.

RSP wprowadziła twardy limit na te modele — Anthropic zakończyłby rozwój, nawet jeśli oznaczałoby to pozostanie w tyle za konkurentami. Było to odważne stanowisko w branży, gdzie wszyscy wydawali się pędzić do przodu z zawrotną prędkością.

Nowe RSP firmy Anthropic

Wersja 3.0 znacznie łagodzi zasady

Anthropic nadal ma Politykę Odpowiedzialnego Skalowania, ale od wersji 3.0 firma wstrzyma rozwój tylko wtedy, gdy uzna, że ma już istotną przewagę nad konkurentami. Wiążąca obietnica zatrzymania jest zastąpiona obietnicą bycia transparentnym w kwestii tego, czy firma osiąga swoje cele bezpieczeństwa oraz obietnicą dopasowania się do poziomu bezpieczeństwa konkurentów lub jego przewyższenia. Innymi słowy, zobowiązanie do bezpieczeństwa w zasadzie zniknęło.

Dlaczego te zmiany? Anthropic twierdzi, że pierwotny RSP nie przyniósł oczekiwanego efektu. Celem RSP było, aby Anthropic dał przykład w zakresie bezpieczeństwa, za którym podążyłyby inne firmy. Niestety konkurenci nie załapali tej wskazówki. Firma uważa, że ograniczając siebie, w zasadzie pozwala konkurentom, którzy mniej dbają o bezpieczeństwo, prowadzić rynek i wyznaczać tempo rozwoju.

Co to oznacza dla branży?

Duży krok w tył

Niestety, te zmiany mogą stworzyć zły precedens w dziedzinie sztucznej inteligencji. Anthropic był złotym standardem w zakresie praktyk bezpieczeństwa, a wraz z tymi zmianami, poprzeczka została znacząco obniżona. Może to wysłać sygnał do konkurentów, że bezpieczeństwo schodzi na dalszy plan wobec innowacji. Chociaż może to pomóc Claude’owi dogonić ChatGPT, wciąż wydaje się to ruchem w złym kierunku.

Na koniec dnia, jeśli obawy dotyczące zagłady spowodowanej przez AI mają zostać uniknięte, obietnica bezpieczeństwa pojedynczej firmy nie wystarczy — cała branża musi się zjednoczyć i wyznaczyć granicę. Na tym etapie wydaje się coraz mniej prawdopodobne, że to się wydarzy.