OpenAI'da güvenlik raporlarını yönetiyordu: İstifa edip şirketi eleştirdi

OpenAI'da üç buçuk yıl güvenlik alanında çalışan David Robinson, şirketin hızlı ürün geliştirme yaklaşımının güvenlik araştırmalarına yeterli alan bırakmadığını savunarak istifa etti.

Robinson, gelişmiş yapay zeka sistemleri için daha sıkı önlemler gerektiğini belirtirken, OpenAI gerektiğinde model eğitimini duraklattığını veya kullanıma sunmayı ertelediğini açıkladı.

Şirketteki görevi sırasında hazırlık çerçevesinin oluşturulmasına katkı sağlayan Robinson, en ileri düzeydeki modellerin 12 ayrı kullanıma sunumuna ilişkin güvenlik raporlarını da yönetti.

Önce kullanıma sunup sonra önlem alma yaklaşımına eleştiri

Robinson'ın eleştirilerinin merkezinde, OpenAI'ın "yinelemeli kullanıma sunma" adını verdiği yöntem bulunuyor. Bu yöntemde modeller kullanıcılarla buluşturuluyor, ortaya çıkan sorunlara göre güvenlik önlemleri geliştiriliyor.

Ancak Robinson, sistemlerin yetenekleri arttıkça bu yaklaşımın yeterli olmadığını savundu. OpenAI dahil yapay zeka şirketlerinin daha dikkatli hareket etmesi gerektiğini belirterek, havacılık ve nükleer enerji sektörlerindekine daha yakın güvenlik önlemleri uygulanması çağrısında bulundu.

"Deneme yanılma dönemi sona erdi" diyen Robinson, şirketin çalışma temposuna ilişkin "Şirket bir lansmandan diğerine koşarken, gerekli olduğuna inandığım özen düzeyini sağlayamıyor" dedi.

Yapay zekanın gelişim hızı ve güvenlik araştırmaları arasındaki fark

Robinson, yapay zekanın yeteneklerindeki ilerlemenin, araştırmacıların "hizalama" konusundaki anlayışını geride bıraktığını da öne sürdü. Bu araştırma alanı, yapay zeka sistemlerinin insanların hedeflerine ve değerlerine uygun biçimde çalışmasını sağlamayı amaçlıyor.

İstifa, sektörün daha güçlü sistemler geliştirme hızına yönelik tartışmaların arttığı bir dönemde geldi. OpenAI ve rakibi Anthropic, deneysel sistemlerde güvenlik kontrollerinin başarısız olduğu veya beklenmedik davranışların ortaya çıktığı olaylar nedeniyle sorgulamalarla karşı karşıya kalmıştı.

OpenAI: Gerektiğinde modellerin kullanıma sunulmasını erteliyoruz

Eleştirilere yanıt veren OpenAI, modellerin ulaştığı yetenek düzeyinin güvenli biçimde yönetilip yönetilemeyeceğini ve sistemlerin güvence altına alınıp alınamayacağını takip ettiğini bildirdi.

Şirket sözcüsü, güvenlik uygulamalarını şu sözlerle savundu:

"Modellerimizin, güvenli biçimde yönetip güvence altına alabileceğimiz sınırların ötesinde yetenekler geliştirmemesini sağlıyoruz. Yavaşlamamız gerektiğinde eğitimi duraklatıyor ya da modelleri kullanıma sunmayı erteliyoruz"