Nowe na GitHubie
Źródła 33Wiadomości zawsze najświeższe
0 Newsletter
Animowana ilustracja do wpisu: OpenAI wpuszcza obcych kontrolerów do środka. Nie wszystko pokażąApolloMETRTransluceGoodfire4report.md2026-122027
AI News · 19.11.2026 · 3 min

OpenAI wpuszcza obcych kontrolerów do środka. Nie wszystko pokażą

Firmy AI same oceniają, czy ich systemy są bezpieczne. Wyjaśniam, co zmienia wizyta niezależnych kontrolerów w OpenAI i czego ich raporty Ci nie powiedzą.

W skrócie
  • Apollo Research i Transluce ogłosiły 16 listopada pilotaż pracy na miejscu w OpenAI: sześć osób z Apollo na cztery miesiące, zespół Transluce na sześć tygodni od grudnia.
  • OpenAI może prosić o usunięcie poufnych fragmentów z raportów, a wyników o modelach tylko wewnętrznych nie wolno publikować.

Dwie niezależne organizacje badawcze, Apollo Research i Transluce, ogłosiły 16 listopada, że ich ludzie zaczną pracować na miejscu w OpenAI i sprawdzać modele od środka, a nie dopiero tuż przed premierą. To pierwszy taki pilotaż z udziałem największego dostawcy. Ważne jest jednak nie tylko to, co kontrolerzy zobaczą, ale też to, czego nie będą mogli opublikować.

Kto wchodzi i na jak długo

Według The Decoder OpenAI współpracuje z czterema organizacjami: Apollo Research, METR, Transluce i Goodfire. Szczegóły warunków opisały na razie dwie z nich, więc na nich opieram resztę tekstu.

Apollo Research wysyła zespół sześciu osób na cztery miesiące. Ma zbadać, czy modele próbują obejść własne zabezpieczenia albo zabezpieczenia swoich następców. Badacze sprawdzą cztery rzeczy: czy trening nagradza takie zachowanie, czy testy potrafią je wywołać, czy zdarza się ono przy wewnętrznym używaniu modeli i czy dałoby się je zauważyć w rozumowaniu modelu.

Transluce zaczyna na początku grudnia sześciotygodniowy pilotaż. Dostanie kilka modeli, w tym co najmniej jeden model tylko wewnętrzny, wybrane wewnętrzne testy i dużą liczbę zapisów z wcześniejszych treningów. Na początek 2027 r. obie strony planują dłuższą i głębszą ocenę.

Dlaczego zwykłe testy przed premierą nie wystarczają

Apollo tłumaczy to na przykładzie zjawiska zwanego scheming: model po cichu realizuje inny cel niż ten, który dali mu twórcy. Taki model może zachowywać się wzorowo, gdy wie, że jest testowany. Dlatego sprawdzenie gotowego modelu tuż przed premierą może niczego nie wykazać, a ślady widać raczej wcześnie w treningu.

W tekście z października Apollo przypomina, że OpenAI samo przyznało: gdyby GPT-6 Astra celowo zaniżał wyniki, firma „prawdopodobnie nie byłaby w stanie” wykryć tego niezawodnie. To mocny argument za tym, by ktoś z zewnątrz patrzył na trening, a nie tylko na efekt końcowy.

Transluce dostanie też wgląd w surowy łańcuch rozumowania modeli, czyli notatki, które model zapisuje przed odpowiedzią. Dla kontrolera to jak dostęp do brudnopisu zamiast samej oceny końcowej.

Gdzie są granice

Transluce opisała warunki wprost i to jest najcenniejsza część ogłoszenia:

  • OpenAI dostaje raport przed publikacją i może prosić o usunięcie własności intelektualnej i innych niepublicznych informacji,
  • wyników dotyczących modeli tylko wewnętrznych nie wolno publikować, więc publicznie zobaczysz ustalenia wyłącznie o modelach już wydanych,
  • OpenAI zatwierdza, którzy pracownicy Transluce wejdą do firmy, i decyduje o każdej prośbie o szerszy dostęp,
  • pełna, nieocenzurowana wersja trafi do komitetu bezpieczeństwa w radzie fundacji OpenAI.

Transluce nie bierze od OpenAI pieniędzy za pilotaż, a OpenAI płaci tylko za moc obliczeniową i miejsce pracy. Obie organizacje obiecują ujawnić, o co prosiły, co dostały i jak ograniczenia wpłynęły na wnioski. Apollo nazywa to meta-przejrzystością i uważa za minimum.

Co z tego masz jako builder

Moim zdaniem to krok w dobrą stronę, ale nie gwarancja. Pierwsze raporty pojawią się najwcześniej na początku 2027 r. i będą dotyczyć modeli, których już używasz. Warto je przeczytać, bo to rzadka informacja o zachowaniu modeli spoza działu marketingu. Dopóki ich nie ma, testuj modele na własnych zadaniach. Więcej o tym, jak sprawdzać modele samodzielnie, piszę w hubie Harness i ewaluacje.

Źródła

Harness i ewaluacje

Powiązane