Arkadaş grubunuzun sohbeti gibi hissetmek için yapay zeka ile çalışan 'sosyal arama motoru' Diem ile tanışın

Örneğin, diyelim ki yumurtalarınızı dondurmanın maliyeti ne kadar. Bu soruyu DIEM'e yazdınız ve AI bileşeni, hem tek cümleli bir cevap hem de daha uzun bir cevap oluşturmak için daha geniş İnternet veritabanını ve DIEM kullanıcı tarafından ilan edilen içeriğini kullanacaktır. Ve her ikisini de, onlardan kaydırma yapmakla ilgileniyorsanız, konuyla ilgili topluluk tarafından oluşturulan tüm yayınların yanı sıra alırsınız.

Bu şekilde, Diem, AI kolaylığını gerçek kadınlardan ve ikili olmayan insanlardan bilginin kişiselleştirmesiyle birleştirir-çok tür anekdot bilgi ve yaşam deneyimleri ve dedikodu genellikle önyargılardan dolayı arama motorları tarafından depriyalize edilir (daha fazlası aşağıda). Bates, Diem hakkındaki bilgileri bu topluluklardan insanlar için hem yararlı hem de doğrudan uygulanabilir hale getiren kombinasyondur. “Her zaman bina hakkında düşünme şekli, 'Topluluklarınızın kolektif bilgilerini arayabileceğiniz bir alan nasıl yaratabiliriz?'" diyor. “Topluluğunuzla toplu olarak inşa edebilirseniz, sesi, verileri ve deneyimi şekillendirir ve farklı hisseder."

Arama motorlarında ve AI platformlarında cinsiyet yanlılığı sorunu

Cinsiyet yanlılığı bir bütün olarak toplumda yaygın olduğundan, internet arama motoru algoritmalarında da mevcuttur ve cinsiyet bilgi boşluğunu besler. 2018'de Sabah Hap hakkında geçerli, ilişkilendirilebilir bilgiler bulmaya çalışırken Bates'in karşılaştığı boşlukla aynı.

Kanıt olarak, araştırmacıların Google görüntülerinin daha yüksek cinsiyet-kaliteli puanları olan ülkelerde (küresel cinsiyet boşluğu endeksi ile değerlendirilen) aramalarının da cinsiyet yanlılığı gösterip göstermeyeceğini belirlemeye çalıştıkları 2022 çalışmasının sonuçlarını düşünün. Bunu yapmak için, ilk çalışmalarında 37 ülkenin yerel dilinde "kişi" kelimesi ve ikinci ülkelerde 52 ülkeyi araştırdılar. Her durumda, daha fazla toplumsal cinsiyet eşitsizliğine sahip ülkelerdeki Google arama sonuçları da daha fazla cinsiyet eşitsizliği ortaya koydu (yani ilk 100 görüntü sonuçlarının daha yüksek bir yüzdesi bir kadına karşı bir erkek gösterdi).

Yeni AI botlarının cinsiyet yanlılığını sürdürdüğü bulundu. Örneğin, Bloomberg bir hesaplamalı bilim adamının, sadece Asyalı veya beyaz erkeklerin iyi bilim adamları yapacağını söyleyen kod tükürdüğünü bildirdi; Şirketin CEO'su Twitter'da bilim insanına yanıt verdi ve kullanıcıları programın önyargıyı yaymamayı öğrenmesine yardımcı olmak için kullanıcıları bu tür cevapları "azaltmaya" teşvik etti.

Chatgpt'e benzer bir soru sorduğumda, bir meslekte mükemmel olup olmadıklarını belirlemek için birinin cinsiyetini veya yarışını kullanmanın uygun olmadığını söyledi. Ancak yapay zeka şu anda daha az önyargılı olmayı öğreniyor gibi görünse de, hala bu şekilde eğitmek nesnel, şefkatli kullanıcılara güveniyor. (Oysa Diem'in yapay zekası büyük ölçüde oluşturulan bilgiler konusunda eğitilmiş ve için kadınlar ve ikili olmayan insanlar ve bu nedenle atlamadan aynı kadın karşıtı önyargı konusuna tabi değil.)

"AI sadece eğitildiği veriler kadar iyidir ve tüm insanların önyargı ve önyargıya sahip olduğu için, verileri kullanıldığında, bu önyargı ve önyargı AI'nın bir parçası haline gelir."-Nina Vasan, MD, Psikiyatrist

Bu bulgular, insanlar doğal olarak oluşturduğumuz ürünlere ve katkıda bulunduğumuz veri kümelerine nasıl aktarıldıkça koruduğumuz önyargıların. "AI sadece eğitildiği veriler kadar iyidir ve tüm insanların önyargı ve önyargıya sahip olduğu için, verileri kullanıldığında, bu önyargı ve önyargı AI'nın bir parçası haline gelir," diyor Psikiyatrist Nina Vasan. Dijital Terapi Platformu Real ve Brain Storm'un Kurucusu ve Genel Müdürü: Stanford Ruh Sağlığı İnovasyonu için Laboratuvar.

Diem, özellikle kadınlar ve ikili olmayan insanlar için eğlenceli, bilgilendirici bir arama motoru olmayı amaçlıyor

Diem'in amaçlanan kullanıcı demografisi göz önüne alındığında, Bates, platformda paylaşılan bilgileri düşündüğünü ve sohbet botu tarafından insanların hayatlarının "arkadaş aşamasında" oldukları soruların cevapları olarak oluşturulduğunu söylüyor; İnsanlar yirmili yaşlarının ortalarında ve otuzlu yaşların başında arkadaşlardan çok fazla bilgi emer, diyor. Diem ile ilgili fikir, başka türlü etkileşime giremeyeceğiniz yaş ve cinsiyet kimliğinizdeki çeşitli insanlardan perspektifler kazanmanız ve bu kolektif anlayış platformdaki herkese fayda sağlar.

Diem'in AI'sı doğrudan bu demografinin insanlarından bilgi ile beslendiğinden, tasarım tarafından temsili bir platform. Şu andan itibaren, binlerce kadın ve ikili olmayan insanlar, özellikle kişisel sağlık, para ve ilişkiler kategorilerinde, Diem hakkında kendileriyle ilgili konular hakkında sorular ve cevaplar sordu-Diem'in AI'sının en iyi eğitildiği yer.

Hala öğrenirken, topluluktaki insanların henüz tartışmadığı sorular hakkında bilgi bulmak için daha geniş bir tescilli veri kümesinden (Chatgpt'e güç verene benzer) çekilir. Bir farklılaşma noktası, bu sorular için hala bu sorular için "özetlenmiş bir diem-y cevabı" ortaya koymasıdır.

Bununla birlikte, Diem hala hem kullanıcı tarafından oluşturulan hem de bu daha geniş veri kümesine güvenen bir AI olduğu için, kesinlikle değil bağışık Yanlış, yanıltıcı ve evet, hatta önyargılı içerik dahil olmak üzere diğer arama motorlarının ve AI chatbots'un karşılaştığı sorunlara. Buna karşılık, uygulama içinde ve masaüstü sürümünde kötüye kullanımı bildirmek için bir düğme var ve platform, kullanıcılarının güvenliğini sağlamak için "nezaket ve merak" ve "empatik katılım" gibi şeyleri tanıtan bir dizi topluluk yönergesi yayınladı. ve bilginin kalitesi.

Diem, hem Amerika Birleşik Devletleri hem de Avrupa Birliği'ndeki hükümet yetkililerinin, büyük ölçüde yukarıdaki endişeler nedeniyle yapay zeka düzenlemenin yollarını araştırdığı bir dönemde piyasaya sürülür. U'da.S. Özellikle, Başkan Joe Biden'in ofisi, iki taraflı bir U grubu olan Ekim ayında bir AI Haklar Yasası taslağını yayınladı.S. Senatör Chuck Schumer liderliğindeki senatörler, sektör çevresinde korkuluklar kurmak için mevzuat üzerinde çalışıyor ve dört devlet kurumu geçen ay, sektörü daha sağlam bir şekilde düzenlemek için sahip oldukları güçleri özetleyen ortak bir açıklama yaptı, özellikle de önyargıdan kaynaklanan ayrımcılığa karşı.

Ama Bates bu manzaraya girerek caydırılmadı. İnsanların özellikle hayatlarında olduklarına göre hitap eden bilgileri arayacakları "internetin geleceğinde ilginç bir değişim" olacağını tahmin ediyor. Örneğin, Google'a flört tavsiyesi istemek yerine, yakında Diem gibi bir platforma gideceğinizi umuyor, bu da size benzer bir deneyime sahip insanlardan türetilen cevaplar verecek.

Bates, "Şu anda tekellerde varız ve bu interneti nasıl kullandığımızı ve platformlardan beklediğimizi etkiliyor" diyor. Sonuçta, bu tekeller genellikle erkekler lehine önyargıyı yansıtıp. "Bence internetin geleceği daha fazla niş deneyim sunacak" diyor. Ve kimin bir nişin mutlaka küçük olduğunu? Bates'in belirttiği gibi, kadınları tanımlayan insanlar gezegendeki insanların eşit payını oluşturuyor. Ve şimdi, girişlerini bekleyen dev bir grup sohbeti var.

En son (ve en büyük) refah haberlerine ve uzman onaylı ipuçlarına sahip olmak için bugün kaydolmadığınız BS ile ihtiyacınız olmayan Wellness Intel, doğrudan gelen kutunuza teslim edildi.