MIT Araştırmacıları, Googleın Yapay Zekâsını Kandırabilen Bir Sistem Geliştirdi
Yapay zekâ, insanlık tarihindeki en büyük kırılmalardan bir tanesini yaratabilecek bir potansiyele sahip ve hâlâ üstüne bir şeyler konularak geliştirilmeye çalışılıyor ancak yapay zekâ sistemlerini kandırabilecek örnekler de bulunuyor. Buna Google’ın görselleri tespit etmek için geliştirdiği yapay zekâsı ve Jigsaw’un zararlı yorumları tespit etmesi için geliştirdiği yapay zekâ sistemi de dâhil.
Yapay zekâ, insanlık tarihindeki en büyük kırılmalardan bir tanesini yaratabilecek bir potansiyele sahip ve hâlâ üstüne bir şeyler konularak geliştirilmeye çalışılıyor ancak yapay zekâ sistemlerini kandırabilecek örnekler de bulunuyor. Buna Google’ın görselleri tespit etmek için geliştirdiği yapay zekâsı ve Jigsaw’un zararlı yorumları tespit etmesi için geliştirdiği yapay zekâ sistemi de dâhil.
MIT Bilgisayar Bilimleri ve Yapay Zekâ Laboratuvarı’ndaki araştırmacılar, TextFooler adını verdikleri bir sistem geliştirdiler. Bu sistemle Alexa ve Siri gibi doğal dil işleme kullanan yapay zekâlar kandırılabiliyor.
TextFooler, açıklarını anlamak adına doğal dil işleme modellerine saldırmak için tasarlanmış bir sistem. Bunu yapabilmek içinse cümlenin dil bilgisi yapısını bozmadan ya da anlamını değiştirmeden kelimeleri değiştirerek girdi cümlesinde düzenlemeler yapıyor. Sistem, daha sonra değiştirilmiş girdi metin sınıflandırmasıyla nasıl başa çıkıldığını görmek için doğal dil işleme modeline saldırıyor.
Tabii bir metnin anlamında değişiklik yapmadan kelimelerini değiştirmek oldukça zor. TextFooler, bunun için ilk önce doğal dil işleme modelinde sıralamada ağırlık taşıyan önemli kelimeleri kontrol ediyor. Daha sonraysa cümleye güzel bir şekilde oturabilecek eş anlamlı karşılıklarına bakıyor.
Sistemi geliştiren araştırmacılar, hâlihazırda var olan üç modeli başarılı bir şekilde kandırdıklarını ve bunların içerisinde Google tarafından geliştirilen ve BERT adı verilen açık kaynaklı dil modelinin olduğunu da ifade ettiler.
İLGİLİ HABER Evrenle İlgili Tüm Teorileri Birleştirecek Bir Yapay Zeka Geliştirildi
TextFooler araştırmasının yazarı Din Jin, “Bu araçlar, kötü amaçlı saldırılara karşı korunmasızlarsa sonuçlar felaket olabilir. Bu araçların kendilerini koruyabilmeleri için verimli bir savunma yaklaşımlarına ihtiyaçları var” ifadelerini kullandı. MIT ekibi, TextFooler’ın istenmeyen e-posta filtreleme, nefret söylemini tespit etme veya hassas politik söylemler gibi metin bazlı modellerde kullanılabileceğini düşünüyor.
Kaynak webtekno.com
Mobil Tarayıcı Uygulaması CamScanner, Türk Öğrenciler İçin Verdikleri Destekleri Açıkladı
2011 yılında piyasaya sürülen ve yıllar içerisinde dünyanın en popüler mobil tarayıcı uygulamalarından bir tanesi olan CamScanner, Türk öğrencilerle ilgili dikkat çekici açıklamalarda bulundu. Öğrencilerin zaten tonla yük altında olduğunun altını çizen şirket yetkilileri, mobil uygulamaları ile öğrencilere ücretsiz olarak destek verildiğini hatırlattılar.
İnternet Hızı Türkiyede mi Daha Fazladır, Yoksa Ayda mı? İşte İnsanı İkileme Düşüren Bu Sorunun Yanıtı...
Tarih boyunca Ay'ı keşfetmek için birçok proje hayata geçirildi ve bu sayede uydumuz hakkında yeni bilgiler edindik. Ay'a özel bir ilgi duyan Dünya halkı, belki de gelecekte gezegen dışındaki ilk kolonisini burada kuracak.
Instagram Bazı Kullanıcıların Irk ve Etnik Kökenlerini Soracak: Tamam da Niye?
Dünyanın en popüler sosyal medya platformlarından Instagram, resmi bir duyuru gerçekleştirdi. Bu duyuruda, bazı kullanıcıların ırk ve etnik kökenlerinin sorulacağı ifade edildi. Tamam da Instagram, kullanıcıların ırk ve etnik kökenlerini öğrenip ne yapacak? Gelin hep birlikte o açıklamalara bakalım.
James Webb, Şimdi de Phantom Galaksisi’nin Bugüne Kadarki En Net Fotoğrafını Çekti: Bu Fotoğraf Başınızı Döndürecek!
25 Aralık 2021’de uzaya gönderilen ve geçtiğimiz haftalarda faaliyetlerine resmen başlayan James Webb Uzay Teleskobu, gönderdiği ilk derin uzay fotoğraflarıyla hepimizi mest etmeyi başarmıştı. James Webb Uzay Teleskobu, bugün yeni bir gözlemle karşımıza geldi.
Google, Birkaç Yıl Önce Tanıttığı Artırılmış Gerçeklik Gözlüğü Glass Enterprise Edition 2nin Satışlarını Durdurdu
Diğer alanlarda olduğu gibi giyilebilir teknolojik ürünler konusunda hamleler yapan Google, 2019 yılında yeni artırılmış gerçeklik gözlüğü Glass Enterprise Edition 2’yi tanıtmıştı. Kurumsal müşteriler için üretilen bu gözlük, birçok dikkat çeken özellikle gelmişti.