Yapay zeka yarışında fren tartışması: Altman iki büyük riski açıkladı

Yapay zeka sektöründe güvenlik endişeleri büyürken OpenAI CEO'su Sam Altman, gelişmiş modeller için uygulanabilecek güvenlik önlemlerine ilişkin kapsamlı açıklamalarda bulundu.

Tartışma, Anthropic'ten bir araştırmacının istifa ederek yapay zeka şirketlerinin insanlığın geleceğini riske attığını söylemesinin ardından hız kazandı. Anthropic CEO'su Dario Amodei, şirketlere en gelişmiş modellerin geliştirilme hızını düşürme çağrısında bulunurken Altman ve Elon Musk da bu çağrıya destek verdi.

Altman iki büyük riske işaret etti

Altman, yapay zekadaki ilerlemenin "çok kötü" sonuçlanabileceği iki temel senaryo bulunduğunu belirtti. Bunlardan ilkinin geleceğin kontrolünün yapay zekaya kaptırılması, ikincisinin ise teknolojinin sağladığı gücün tek bir kişi veya şirketin elinde aşırı yoğunlaşması olduğunu söyledi.

Altman, gelişmiş yapay zeka sistemleri için ortak federal güvenlik kurallarını desteklediğini belirterek, "Amerikan rekabet baskısının hiçbir miktarı pervasızlığı haklı çıkarmaz." dedi.

Bununla birlikte Altman, güvenlik önlemlerinin yapay zekadaki ilerlemenin tamamen durdurulması anlamına gelmediğinin de altını çizdi. Teknolojide ilerlemenin hızlı kalacağını ancak yeteneklerin denetim ve güvenlik mekanizmalarının önüne geçmemesi gerektiğini savundu.

Bağımsız denetçi önerisi

Amodei ise yapay zeka geliştirme yarışını daha güvenli hale getirmek için üç aşamalı bir yaklaşım önerdi. Buna göre önde gelen yapay zeka şirketleri bağımsız denetçilere sistemlerine kapsamlı erişim sağlamalı, ortak güvenlik standartları belirlemeli ve kontrolsüz gelişmenin hızını sınırlamak için uluslararası koordinasyon kurmalı.

Altman, bağımsız değerlendiricilere şirket çalışanlarına benzer erişim verilmesi önerisini destekleyerek OpenAI'ın da benzer bir uygulamaya geçeceğini açıkladı.

En büyük düğüm Çin

Planın önündeki en büyük sorunlardan biri ise ABD ile Çin arasındaki yapay zeka rekabeti. Amodei, ABD'deki şirketler yavaşlarken rakip ülkelerin aynı adımı atmamasını önerisinin "en zor ikilemi" olarak nitelendirdi.

ABD Başkanı Donald Trump ise şirket yöneticilerinin yaklaşımına karşı çıkarak yapay zeka çalışmalarının yavaşlatılmasının gerekli olmadığını ve bunun ABD'nin Çin karşısındaki liderliğini riske atabileceğini savundu.

Çin tarafı da önerilere tepki gösterdi. Çin Dışişleri Bakanlığı, teknoloji yöneticilerinin açıklamalarını "korku yaymaya yönelik" olarak nitelendirdi.

Trump'tan yapay zeka devlerinin fren çağrısına rest: Kim kazanırsa o kazanırEkonomi