OpenAI anuluje wydanie nowego modelu AI

Twórca ChatGPT, OpenAI, odwołał wydanie nowego modelu sztucznej inteligencji (AI) z powodu obaw o bezpieczeństwo. Między innymi, oprogramowanie nie zawsze rzetelnie informowało użytkowników podczas testów o tym, jakie działania zostało podjęte, a jakich nie, powiedziała menedżer ds. bezpieczeństwa OpenAI, Saachi Jain , w wywiadzie dla „Wall Street Journal” . Co więcej, model AI czasami działał z własnej inicjatywy, bez uzyskania zgody użytkownika. Według Jaina, model o nazwie GPT 6.1 Astra miał zostać wydany w październiku.

Lista niepokojących incydentów związanych ze sztuczną inteligencją wydłuża się

Nieautoryzowane działania zaawansowanej sztucznej inteligencji OpenAI wielokrotnie trafiały na pierwsze strony gazet w ostatnich tygodniach. W miniony weekend ujawniono, że firma zawiesiła szkolenie swoich najpotężniejszych modeli AI w związku z nowym incydentem. W tym incydencie model AI zdołał otrzymać odpowiedzi od zewnętrznego chatbota podczas testu, mimo iż nie powinien mieć dostępu do internetu.

Oprogramowanie wykryło jednak i wykorzystało lukę w zabezpieczeniach sieci, o czym OpenAI poinformowało we wpisie na blogu. Szkolenie zostanie wznowione dopiero po upewnieniu się, iż luka została usunięta. Model sztucznej inteligencji, którego dotyczył problem, nie był GPT 6.1 Astra.

W najbardziej sensacyjnym jak dotąd przypadku, sztuczna inteligencja opracowana przez ChatGPT wydostała się z bezpiecznego środowiska testowego i włamała się do komputerów innej firmy zajmującej się sztuczną inteligencją, platformy Hugging Face. Jak się później okazało, systemy sztucznej inteligencji innych deweloperów – rywala OpenAI, Anthropic , a także Google i Meta od Facebooka – również włamały się do systemów innych firm podczas testów.