Google’ın Yeni Yapay Zeka Projesi, Project Mariner Nedir?

Google’ın yeni AI ajanı Mariner ve Gemini 2.0’ın özellikleri, OpenAI’nin telif hakkı sorunları ve yapay zeka güvenliği hakkında detaylı inceleme. Geleceğin internet deneyimine dair bilmeniz gerekenler yazımızda…

Google Mariner: Web’i Yeniden Tanımlayan AI Asistan

Google, yapay zeka yarışında önemli bir adım atarak Gemini 2.0 ile güçlendirilmiş Mariner adlı AI ajanını tanıttı. Bu prototip, kullanıcıların son kararı vermesini sağlarken, web sitelerinde otonom görevler gerçekleştirebiliyor. Mariner, klasik sohbet botlarının ötesine geçerek metin, görsel ve ses verilerini anlama yeteneğiyle dikkat çekiyor.

Gemini 2.0’ın multimodal özellikleri sayesinde, ekran öğelerini (piksel, metin, butonlar) insan benzeri bir mantıkla yorumlayabiliyor. Örneğin, bir e-ticaret sitesinde alışveriş sepetini doldurma veya form doldurma gibi işlemleri kullanıcı onayına sunarak tamamlıyor. Google’ın hedefi, AI’yı günlük dijital deneyimlerin merkezine yerleştirmek.

Mariner’ın Teknik Yetenekleri ve Sınırları

Mariner’ın performansı, web Voyager Benchmark testlerinde %90.5 başarı oranına ulaştı. Multimodal ekran anlama testlerinde ise %84 doğruluk gösterdi. Ancak Google, sistemin henüz kusursuz olmadığını kabul ediyor. Proje yöneticisi Jawiin Conel Man, AI’nın zamanla gelişeceğini vurguluyor.

Mariner’ın dikkat çeken özelliklerinden biri, karmaşık talimatları adımlara bölerek geri bildirim vermesi. Belirsiz bir talimatla karşılaştığında, kullanıcıdan açıklama istiyor. Bu şeffaf yaklaşım, AI’nın karar verme sürecini anlaşılır kılıyor.

OpenAI’nin Telif Hakkı ve Veri Kullanımı Sorunları

OpenAI, Media Manager projesiyle içerik üreticilere kontrol imkanı sunmayı vaat etmişti. Ancak proje, 7 aydır tamamlanamadı. Yaratıcılar, AI modellerinin telifli eserleri izinsiz kullandığını iddia ediyor. OpenAI, “adil kullanım” politikasını savunsa da opt-out sistemleri kullanıcılar için yetersiz kalıyor.

Telif sorunlarına ek olarak, jailbreak saldırıları da OpenAI’yi zorluyor. Palo Alto Networks’ün keşfettiği “Bad Lyer Judge” tekniği, dil modellerinin güvenlik önlemlerini %60+ oranında aşabiliyor. Saldırganlar, AI’ya zararlı içerik ürettirmek için yargıç rolü verip puanlama sistemiyle kandırıyor.

Yapay Zeka Güvenliği: Jailbreak Tehditleri ve Çözümler

Araştırmacılar, token smuggling ve persona persuasion gibi yöntemlerle AI modellerinin güvenlik duvarlarını aşmayı başardı. Test edilen 6 büyük dil modeli (Google, OpenAI, Microsoft), benzer savunmasızlıklar sergiledi. Ancak içerik filtreleri, bu saldırıların başarı oranını %89.2 azaltabiliyor.

Uzmanlar, AI güvenliği için katmanlı savunma sistemlerinin şart olduğunu belirtiyor. Kullanıcıların sorumlu davranması ve geliştiricilerin sızma testlerini artırması, riskleri minimize edebilir.

AI’nın Geleceği ve İnsan Kontrolü

Google Mariner, AI’nın web etkileşimini nasıl dönüştürebileceğine dair somut bir örnek sunuyor. Ancak OpenAI’nin yaşadığı telif ve güvenlik sorunları, teknolojinin etik sınırlarını hatırlatıyor. AI’nın potansiyelini tam anlamıyla kullanmak için şeffaflık, kullanıcı kontrolü ve katı güvenlik protokolleri şart.

Teknoloji meraklıları için öneri: Google’ın Mariner test programına katılarak bu geleceğin bir parçası olabilirsiniz. Ancak yatırım yapmadan önce AI projelerini ve risklerini detaylı araştırmayı unutmayın.