OpenAIın Son Teknoloji Yapay Görüş Sistemi Basit Bir Yöntemle Kandırıldı
San Francisco merkezli yapay zekâ araştırma şirketi OpenAI'dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.
San Francisco merkezli yapay zekâ araştırma şirketi OpenAI'dan araştırmacılar, şirketin son teknoloji yapay görme sisteminin kalem ve kâğıt gibi çok da karmaşık olmayan araçlar aracılığıyla kandırılabileceğini keşfetti. Test için bir nesnenin üzerine başka bir nesnenin adını yazan araştırmacılar, yazılımı kandırarak gördüklerini yanlış tanımlamasını sağladı.
Paylaşılan blog gönderisinde "Bu saldırılara tipografik saldırılar diyoruz" diyen araştırmacılar, konu hakkında "Modelin metni güçlü bir şekilde okuma yeteneğinden yararlanarak, elle yazılmış metin fotoğraflarının bile çoğu zaman modeli yanıltabileceğini gördük" ifadelerini kullandı. Bu tür saldırıların, yapay görme sistemlerini kandırabilecek ancak üretilmesi çok daha basit olan "adversarial" görüntülere benzediğini belirtiyorlar.
Modelleri şaşırtmak ve aldatmak için kasıtlı olarak bozulmuş piksellere sahip "adversial" görüntüler, makine görmesine dayanan sistemler için gerçek bir tehlike oluşturuyor. Bir örnek vermek gerekirse araştırmacılar, Tesla'nın sürücüsüz araçlarındaki yazılımının, yola belirli etiketler yapıştırarak uyarı vermeden şerit değiştirmek için kandırılabileceğini göstermişti. Dolayısıyla bu tür saldırılar, tıptan orduya kadar çeşitli AI uygulamaları için ciddi bir tehdit oluşturuyor.
Yine de araştırmacılar, ortaya çıkan bu tehlikenin en azından şimdilik endişelenecek bir şey olmadığını söylüyor. Zira söz konusu OpenAI yazılımı, herhangi bir ticari üründe kullanılmayan CLIP adlı deneysel bir sistem. OpenAI'ın geçtiğimiz aylarda tanıttığı genel amaçlı bir görme sistemi olan CLIP, eğitilmek için internetten alınan yaklaşık 400 milyon adet görüntü ve metin kullanmıştı.
Laboratuvar tarafından paylaşılan bir başka örnek de CLIP'deki kumbaraları tanımlayan nöron oldu. Bu bileşen yalnızca kumbara resimlerine değil, aynı zamanda dolar '$' işaretleri yanıt verir. Yukarıdaki örnekte olduğu gibi araştırmacılar, bir motorlu testereye '$' işaretleri ekleyerek yapay zekanın onu elektrikli testere yerine kumbara olarak tanımlamasını sağladı.
İLGİLİ HABER 12 Gün Şarj Ömrü Vadeden Yeni Akıllı Bileklik OPPO Band Style Tanıtıldı
OpenAI araştırmacıları ayrıca, CLIP'in çoklu biçimli nöronlarının, internette bir arama yaparken karşınıza çıkabilecek ön yargılara ve çağrışımlara sahip olduğunu keşfetti. Bunlardan bazıları 'terörizm' çağrışımına sahip 'Ortadoğu' nöronu ve hem koyu tenli insanlara hem de gorillere karşılık gelen bir başka nörondu.
Kaynak webtekno.com
Jeff Bezos ile Dünyaca Ünlü Bilim İnsanı Arasında Kraliçe Kavgası Çıktı: "Hırsız, Tecavüzcü, Soykırımcı İmparatorluğun Baş Monarkı"
Günün küresel anlamda en büyük haberlerinden biri, İngiltere Kraliçesi II: Elizabeth'in sağlık durumunun kötüleşmesi oldu. Akşam saatlerinde vefat ettiği açıklanan kraliçenin durumu ile ilgili olarak gün boyu sosyal medyada paylaşımlar yapılıyordu. Dünyayı sarsan haber ise gece saatlerinde geldi. Kraliçe Elizabeth, 96 yaşında hayatını kaybetti.
Appledan Dijital Miras Özelliği: iPhonedaki Bilgilerinizi Miras Bırakacağınız Vâris Seçimi Nasıl Yapılır?
Apple, dijital miras konusunda önemli bir adım atarak, vefatınız durumunda tüm Apple kimliğinize ve iPhone'daki tüm bilgilerinize ulaşabilecek kişiyi seçmenize izin veriyor. Seçtiğiniz varis, vefat belgesi ve varis olduğunu kanıtlayan kod ile Apple'a başvurup tüm bilgilerinize ulaşabiliyor.
Sosyal Medyadaki Trolleri Tespit Edecek Projeye TÜBİTAKtan Destek
Sosyal medya, günümüzde bize ne kadar fayda sunsa da aynı zamanda bazı tehlikelere de ev sahipliği yapıyor. Bu tehlikelerden biriyse yanlış bilgilerin yayılmasında aktif rol oynayan, ‘troller’ olarak isimlendirilen kişiler bulunuyor. Bugünse TED Üniversitesi ve TÜBİTAK’tan bu konuyla mücadele için önemli bir haber geldi.
140journosun Merve Taşkın Belgeseli Sosyal Medyayı İkiye Böldü: İşte Türk İfşa Videosuna Gelen Tepkiler
Son günlerde müstehcenlik suçuyla çıktığı mahkemede alınan beraat kararıyla gündemde olan Merve Taşkın, bugün bir belgesel ile sosyal medyanın gündemine oturdu. Sosyal medyanın tartışmalı isimlerinden olan Taşkın, 140journos ekibinin “türk ifşa” başlıklı belgeselinde kendi hikâyesini anlattı.
Dünyayı Kasıp Kavuran Worldle, Artık Bundle’da: Hem de Türkçe!
Son zamanlarda internet ortamlarında bulunduysanız muhtemelen web tabanlı bir kelime oyunu olan Wordle’ye denk gelmişsinizdir Bu oyun, kullanıcıların belli sayıda deneme hakkı karşılığında bir kelimeyi tahmin etmesini sağlıyor ve gün geçtikçe ülkemizde daha da popülerleşiyor. Şimdi de Türkiye’nin en popüler haber uygulamalarından biri olan Bundle, Wordle Türkçe’yi bünyesine dahil ettiğini açıkladı.