Jan Leike, sürpriz bir karar ile OpenAI‘dan ayrılarak rakip firma Anthropic’e geçtiğini duyurdu. Leike, OpenAI’dan ayrılma kararıyla dikkat çekerken, asıl ses getiren ayrılma sürecindeki açıklamaları oldu. OpenAI’dan ayrılırken yaptığı paylaşımda, “Güvenlik kültürü ve süreçleri dikkat çekici yeni ürünler karşısında geri planda kaldı” diyerek eski şirketini eleştirdi.
Bu eleştiri, OpenAI’ın uzun vadeli yapay zeka risklerini ele almaya adanmış olan “Superalignment” ekibini dağıtmasının hemen ardından geldi. OpenAI’ın şu an daha çok kullanıcıları etkileyen ürünlere odaklandığını ve yapay zekanın olası risklerini geri plana itmeye başladığını belirten Leike, şirketin bir sonraki hedefi olan yapay genel zeka (AGI) üzerinde de çalıştığını ifade etti. Leike, bu seviyenin mutlaka çok güçlü koruma sistemleriyle devreye alınması gerektiğini vurgulayarak, “OpenAI, güvenlik öncelikli bir AGI şirketi haline gelmelidir” demişti.
Bugün itibarıyla Jan Leike, OpenAI’ın önemli rakiplerinden olan Anthropic’e katıldığını duyurdu. Yeni şirketinde de güvenlik öncelikli yapay zeka geliştirmelerine devam edeceğini belirten Leike, Anthropic’in yapay zekanın güvenliği ve etik kullanımı konularına verdiği önemin kendisini bu kararı almaya ittiğini ifade etti.
OpenAI ve Güvenlik Eleştirisi
Jan Leike’nin ayrılma sürecinde yaptığı açıklamalar, yapay zeka topluluğunda büyük yankı uyandırdı. Güvenlik kültürü ve süreçlerinin, dikkat çekici yeni ürünlerin gölgesinde kaldığını belirten Leike, OpenAI’ın yapay zekanın olası risklerini yeterince dikkate almadığını ima etti. Bu eleştiriler, OpenAI’ın gelecekteki stratejileri ve güvenlik öncelikleri hakkında tartışmalara yol açtı.