OpenAIın Son Teknoloji Yapay Görüş Sistemi Basit Bir Yöntemle Kandırıldı
San Francisco merkezli yapay zekâ araştırma şirketi OpenAI'dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.
San Francisco merkezli yapay zekâ araştırma şirketi OpenAI'dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.
Paylaşılan blog gönderisinde "Bu saldırılara tipografik saldırılar diyoruz" diyen araştırmacılar, konu hakkında "Modelin metni güçlü bir şekilde okuma yeteneğinden yararlanarak, elle yazılmış metin fotoğraflarının bile çoğu zaman modeli yanıltabileceğini gördük" ifadelerini kullandı. Bu tür saldırıların, yapay görme sistemlerini kandırabilecek ancak üretilmesi çok daha basit olan "adversarial" görüntülere benzediğini belirtiyorlar.
Modelleri şaşırtmak ve aldatmak için kasıtlı olarak bozulmuş piksellere sahip "adversial" görüntüler, makine görmesine dayanan sistemler için gerçek bir tehlike oluşturuyor. Bir örnek vermek gerekirse araştırmacılar, Tesla'nın sürücüsüz araçlarındaki yazılımının, yola belirli etiketler yapıştırarak uyarı vermeden şerit değiştirmek için kandırılabileceğini göstermişti. Dolayısıyla bu tür saldırılar, tıptan orduya kadar çeşitli AI uygulamaları için ciddi bir tehdit oluşturuyor.
Yine de araştırmacılar, ortaya çıkan bu tehlikenin en azından şimdilik endişelenecek bir şey olmadığını söylüyor. Zira söz konusu OpenAI yazılımı, herhangi bir ticari üründe kullanılmayan CLIP adlı deneysel bir sistem. OpenAI'ın geçtiğimiz aylarda tanıttığı genel amaçlı bir görme sistemi olan CLIP, eğitilmek için internetten alınan yaklaşık 400 milyon adet görüntü ve metin kullanmıştı.
Laboratuvar tarafından paylaşılan bir başka örnek de CLIP'deki kumbaraları tanımlayan nöron oldu. Bu bileşen yalnızca kumbara resimlerine değil, aynı zamanda dolar '$' işaretleri yanıt verir. Yukarıdaki örnekte olduğu gibi araştırmacılar, bir motorlu testereye '$' işaretleri ekleyerek yapay zekanın onu elektrikli testere yerine kumbara olarak tanımlamasını sağladı.
İLGİLİ HABER 12 Gün Şarj Ömrü Vadeden Yeni Akıllı Bileklik OPPO Band Style Tanıtıldı
OpenAI araştırmacıları ayrıca, CLIP'in çoklu biçimli nöronlarının, internette bir arama yaparken karşınıza çıkabilecek ön yargılara ve çağrışımlara sahip olduğunu keşfetti. Bunlardan bazıları 'terörizm' çağrışımına sahip 'Ortadoğu' nöronu ve hem koyu tenli insanlara hem de gorillere karşılık gelen bir başka nörondu.
Kaynak webtekno.com
THQ Nordic, Son Etkinliğinde Yeni Oyunlarını Duyurdu: Titan Quest 2, Alone in the Dark ve Dahası!
Yeni oyunların duyurusunun yapıldığı ve fragmanlarının gösterildiği THQ Nordic Digital Showcase 2023’te, yeni Alone in the Dark fragmanından South Park’a kadar birçok oyun tanıtımı yapıldı.
Logitech Taşınabilir Oyun Konsolunu Tanıttı: PlayStation Kalitesinde Oyunlar İki Elinizin Arasında Olacak!
Oyun dünyasında ilk olarak Nintendo GameBoy ile ortaya çıkan ve daha sonraları bir dönem Sony’nin PSP ve PlayStation Vita ile deneyip pek de başarılı olamadığı taşınabilir oyun konsolları, 2017 yılında Nintendo’nun “Modern Gameboy”u olarak görülen Switch konsolunu piyasaya sürmesi ile bir anda dikkatleri üzerine çekmişti.
Türkiye İlk 5’te: Twitter, İçeriklerin Kaldırılması İçin Hükümetlerden Rekor Sayıda Talep Aldığını Açıkladı
Geçtiğimiz yılın Ocak ayında Türkiye’deki kullanıcı sayısı 13,6 milyon olan Twitter, Türkiye’de en çok kullanıcıya sahip 5 sosyal medya uygulamasından biri. Dünya çapında tüm hükümetler her geçen gün sosyal medyayı daha fazla denetlemeye ve gözetim altında tutmaya çalışıyor. Twitter da bu mecralardan biri olmuş durumda.
İptal Edilen Titanfall Oyunundan Bilgiler Geldi! Doom Eternaldan İlham Alınmış
EA Games’in en değişik konseptlerden birine ve niş bir oyuncu kitlesine sahip olan oyun serilerinden biri olan Titanfall, dopdolu bir evrene sahip. Hatta bilmiyorsanız söyleyelim, Apex Legends da Titanfall evreninde geçiyor.
The New York Timesın İstanbuldaki Patlamayla İlgili Paylaşımı Eleştiri Yağmuruna Tutuldu
Türkiye dün, uzun zamandır unutmuş olduğu terör belası ile bir kez daha yüzleşti. İstanbul'daki uğrak lokasyonlar arasında bulunan İstiklal Caddesi'nde meydana gelen terör saldırısında, ne yazık ki 6 vatandaşımızı kaybettik. Türkiye'nin ciğerini yakan olayda ne yazık ki onlarca da yaralımız var...