- Moderatör
-
- #1
𐱅𐰇𐰼𐰚
Süper Moderator
Snapchat, yapay zeka sohbet botu etrafında yeni güvenlik önlemleri getiriyor.
Snapchat, AI sohbetbot deneyimini daha güvenli hale getirmek için yaşa uygun bir filtre ve ebeveynler için bilgiler de dahil olmak üzere yeni araçlar başlatıyor.
Snapchat, Snapchat+ aboneleri için GPT destekli sohbet botunu piyasaya sürdükten birkaç gün sonra, bir Washington Post raporu, bot'un güvensiz ve uygun olmayan bir şekilde yanıt verdiğini ortaya koydu.
Sosyal dev, botun kullanıcılara rehberlerimize uygun olmayan yanıtlar sağlamak için "chatbot'u kandırmaya" çalışan insanlar olduğunu öğrendikten sonra, AI yanıtlarını kontrol altında tutmak için birkaç araç başlatıyor. Snap, kullanıcıların doğum tarihini bildiren yeni bir yaş filtresi ekledi ve chatbot'un kullanıcılarla konuşurken "yaşlarını sürekli olarak dikkate alacağını" söyledi.
Snap, Aile Merkezi'nde çocukların botla etkileşimleri hakkında ebeveynlere veya vasilerine daha fazla bilgi sağlamayı planlıyor. Geçen Ağustos ayında piyasaya sürülen Family Center'da, yeni özellik, gençlerinin AI ile iletişim kurup kurmadıklarını ve bu etkileşimlerin sıklığını paylaşacak. Ebeveyn ve gençlerin, bu ebeveyn kontrol özelliklerini kullanmak için Family Center kullanmayı seçmeleri gerekiyor.
Snap, bir blog yazısında, My AI chatbot'unun bir "gerçek arkadaş" olmadığını ve yanıtları iyileştirmek için konuşma geçmişini kullandığını açıkladı. Kullanıcılar, botla sohbeti başlatırken veri saklama konusunda da bilgilendirilir.
Şirket, botun sadece yanıtların %0.01'inin "uyumsuz" bir dilde verildiğini belirtti. Snap, şiddet, cinsel açıdan açık terimler, yasadışı uyuşturucu kullanımı, çocuk cinsel istismarı, zorbalık, nefret söylemi, aşağılayıcı veya önyargılı ifadeler, ırkçılık, kadın düşmanlığı veya azınlık gruplarını marjinalleştirmenin yer aldığı yanıtları "uyumsuz" olarak sayar.
Sosyal ağ, bu uygunsuz yanıtların çoğunlukla kullanıcıların söylediklerini tekrar etmesi sonucu ortaya çıktığını belirtti. Ayrıca, hizmeti kötüye kullanan bir kullanıcının AI bot erişimini geçici olarak engelleyeceklerini belirtti.
"Bu öğrenimleri My AI'yı iyileştirmek için kullanmaya devam edeceğiz. Bu veriler, My AI'nın kötüye kullanımını sınırlamak için yeni bir sistem dağıtmamıza da yardımcı olacaktır. OpenAI'nin moderasyon teknolojisini mevcut araç setimize ekliyoruz, bu da potansiyel olarak zararlı içeriğin ciddiyetini değerlendirmemize ve Snap kullanıcılarının hizmeti kötüye kullanmaları halinde geçici olarak My AI'ya erişimlerini kısıtlamamıza olanak tanıyacak" dedi Snap.
AI destekli araçların hızlı yayılması nedeniyle birçok insan güvenlik ve gizlilik konusunda endişeli. Geçen hafta, bir etik grubu olan Merkez için Yapay Zeka ve Dijital Politika, OpenAI'nin GPT-4 teknolojisinin yayılmasını durdurmak için FTC'ye yazı yazdı ve yeni teknolojinin "taraflı, yanıltıcı ve gizlilik ile kamu güvenliği riski taşıdığını" iddia etti.
Geçen ay, Senatör Michael Bennet, gençler tarafından kullanılan generatif AI araçlarının güvenliği konusunda endişelerini dile getirerek OpenAI, Meta, Google, Microsoft ve Snap'e bir mektup yazdı.
Yeni chatbot modellerinin zararlı girdilere karşı hassas olduğu ve sonuç olarak uygun olmayan çıktılar verdiği açıktır. Teknoloji şirketleri bu araçların hızlı bir şekilde piyasaya sürmek istese de, chatbotların başarısız olmasını önleyen yeterli güvenlik önlemleri olması gerekecektir.