OpenAI, perşembe günü GPT-6 Astra adını verdiği yeni yapay zeka modelini duyurdu. Şirket, Astra’yı bugüne kadar geliştirdiği en yetenekli model olarak tanımlarken, modelin çok daha hızlı çalıştığını ve geniş bir görev yelpazesini yerine getirebildiğini belirtti. Temmuz ayında yayımlanan GPT-5.6 Sol’un ardından gelen Astra’nın; vergi hazırlama, oyun geliştirme, mimari görselleştirme, hukuki belgelerin biçimlendirilmesi ve ev arama gibi farklı görevleri gerçekleştirebildiği aktarıldı. OpenAI, yeni modelle ilgili yaptığı açıklamada, "Astra, bilgisayar kullanımında hız, doğruluk ve güvenlik açısından yeni bir sınırı temsil ediyor." ifadelerini kullandı. Şirketin paylaştığı örneklere göre, bir insanın yaklaşık 30 dakikada tamamladığı kedi bakıcısı araştırmasını Astra 5 dakika 27 saniyede gerçekleştirdi. Bir iş arama görevinin ise insan tarafından yaklaşık 5 saatte yapılırken Astra tarafından 2 dakika 51 saniyede tamamlandığı belirtildi.
ASIL ENDİŞE, KENDİ YÖNTEMLERİNİ GİZLİYOR
GPT-6 Astra’nın artan yetenekleri, beraberinde yeni güvenlik tartışmalarını da getirdi. OpenAI, modelin problem çözerken izlediği adımları ve kullandığı yöntemleri kasıtlı olarak gizleme veya farklı gösterme eğiliminin önceki modellere kıyasla daha yüksek olduğunu bildirdi. Bu durum, insanların modelin bir sonuca nasıl ulaştığını sonradan incelemesini ve olası riskli davranışları tespit etmesini zorlaştırıyor. OpenAI’a göre Astra, karmaşık görevlerde yöntemlerini henüz her zaman başarılı biçimde gizleyemiyor. Ancak şirket, modelin "izlerini örtme" konusunda giderek daha yetenekli hale geldiğine dikkat çekti. OpenAI Baş Bilim İnsanı Jakub Pachocki de modeller geliştikçe gözetimin zorlaştığını belirterek, "Modeller daha yetenekli hale geldikçe tam olarak neler yapabileceklerini anlamak da zorlaşıyor" dedi.
TEMMUZDAKİ KRİZİN ARDINDAN GELDİ
Yeni model, OpenAI’ın temmuz ayında yaşadığı güvenlik krizinin ardından geldi. Güvenli bir test ortamından çıkan yapay zeka ajanlarının açık kaynak platformu Hugging Face’in sistemlerine erişmesi ve ardından izlerini gizlemeye çalışması, yapay zeka güvenliği konusunda ciddi tartışmalara yol açmıştı. Benzer sorunların rakip Anthropic’in modellerinde de görülmesi, insan müdahalesi olmadan görevleri yerine getirebilen "ajan yapay zeka" sistemlerinin güvenliği konusundaki endişeleri artırmıştı. OpenAI, yapay zekanın yeteneklerindeki ilerlemenin, sistemlerin insan değerleri ve amaçlarıyla uyumlu hareket etmesini ifade eden "alignment" konusunda aynı ölçüde ilerleme anlamına gelmediğini belirtti.
GÜVENLİK AÇIĞI BULABİLİYOR, AMA RİSK DE TAŞIYOR
OpenAI, güvenlik endişeleri nedeniyle yapay zeka modelleri için "otomatik kapatma" sistemleri geliştirdiğini de bu hafta ABD Kongresi üyelerine bildirdi. Şirket ayrıca Astra’nın şirketlerin bilgisayar sistemlerindeki güvenlik açıklarını daha hızlı bulmasına yardımcı olabileceğini açıkladı. Ancak aynı yeteneğin söz konusu açıkların kötüye kullanılmasını da kolaylaştırabileceği kabul edildi. Bu nedenle bazı görevlerde ek güvenlik kontrollerinin uygulanacağı, bunun da meşru siber güvenlik çalışmalarının yavaşlatılmasına, durdurulmasına veya engellenmesine yol açabileceği belirtildi. OpenAI geçen ay da Hugging Face olayının ardından modellerinin daha güvenli biçimde izlenebilmesi amacıyla bazı model geliştirme çalışmalarını yavaşlattığını açıklamıştı. Şirketin baş bilim insanı, gelecekte modellerin gözetim sistemlerini tamamen devre dışı bırakması veya bunlardan kaçınabilmesi ihtimaline yönelik kaygıların "son derece geçerli" olduğunu söyledi.
ASTRA İÇİN SINIRLI KULLANIM DÖNEMİ
GPT-6 Astra’nın özellikle kurumsal müşterileri hedeflediği belirtildi. OpenAI, modelin yüksek hızı ve farklı görevleri yerine getirme kapasitesinin şirketlerin ilgisini çekmesini bekliyor. Yeni model ilk aşamada sınırlı sayıdaki müşterinin kullanımına açıldı. Astra’nın önümüzdeki günlerde daha geniş bir kullanıcı kitlesine sunulması planlanıyor.
