OpenAI stworzyło zespół ds. zagrożeń związanych ze sztuczną inteligencją

OpenAI chce odkrywać zagrożenia związane ze sztuczną inteligencją, również te mniej oczywiste, i skutecznie im zapobiegać. W tym celu powołano właśnie nowy zespół (nazwany zespołem gotowości), a do tego uruchomiono specjalne wyzwanie.

Zespół gotowości ma chronić przed „katastrofalnym” ryzykiem

Zespół zajmie się takimi potencjalnymi zagrożeniami, jak zindywidualizowana perswazja, bezpieczeństwo cybernetyczne, zagrożenia chemiczne, biologiczne, radiologiczne i nuklearne (CBRN), a nawet autonomiczna replikacja i adaptacja (ARA).

Szefem nowej jednostki został pochodzący z Polski profesor Aleksander Mądry. Jednocześnie wciąż są w niej wolne miejsca, a OpenAI zachęca do wzięcia udziału w rekrutacji specjalistów z różnych „technicznych” dziedzin.

Wierzymy, że pionierskie modele sztucznej inteligencji, które przewyższą możliwości obecne w najbardziej zaawansowanych istniejących modelach, mają potencjał, aby przynieść korzyści całej ludzkości. Stanowią jednak także coraz poważniejsze ryzyko […] Zespół pomoże śledzić, oceniać, prognozować i chronić przed katastrofalnymi ryzykami obejmującymi wiele kategorii.

Przygotowano też wyzwanie dla pasjonatów cyberbezpieczeństwa

Przy okazji ogłoszenia nowego zespołu, OpenAI zdecydowało się też rzucić swojej społeczności wyzwanie. Zadaniem jest wymyślenie unikalnych, ale realnych sposobów, na które osoby o złych intencjach mogłyby wykorzystać modele sztucznej inteligencji firmy. Chodzi tutaj zarówno o narzędzia do generowania tekstu i obrazu, jak i transkrypcji oraz zamiany tekstu na dźwięk.

Uczestnicy muszą także opisać, w jaki sposób chcieliby mierzyć prawdopodobieństwo wystąpienia takich nadużyć, i jak najlepiej ich zdaniem można byłoby im zapobiegać. Nagroda? Kredyty pozwalające korzystać z modeli OpenAI o wartości 25 000 dolarów dla 10 najlepszych, a potencjalnie nawet… zaproszenie do dołączenia do nowego zespołu firmy!

Zgłoszenia będą akceptowane do 31 grudnia 2023 roku. Planujecie wziąć udział  wyzwaniu? Dajcie znać w komentarzach!

WARTO PRZECZYTAĆ:

Elon Musk jest wkurzony na OpenAl. Uważa, że firma porzuciła pierwotną misję na rzecz zysku

O Elonie Musku chyba nigdy nie może być cicho. Znów media rozpisują się na jego temat i informują, że miliarder pozwał firmę OpenAl i jej

Prezes Google posypuje głowę popiołem. Pomyłki Gemini nazywa “całkowicie nieakceptowalnymi”

Bard, chatbot AI od Google, przeistoczył się w Gemini na początku lutego. Bardzo szybko stał się obiektem kontrowersji. Poszło o generator obrazków, który tworzył… co

“Przekręt na Mentzena”. Analitycy ostrzegają przed nową akcją oszustów

Specjaliści z G Data biją na alarm: w sieci pojawił się nowy, całkiem sprytny przekręt. W rolach głównych Sławomir Mentzen, polityk Konfederacji, oraz kryptowaluty. Oszuści