OpenAI’ın son araştırması, ChatGPT modelinin verdiği cevapların kullanıcıların isimlerine bağlı olarak değişebileceğini ortaya koydu. Yapılan araştırmaya nazaran, kullanıcıların isimleri, bilhassa cinsiyet, ırk yahut etnik kökenle ilişkilendirildiğinde, yapay zekanın cevaplarında birtakım farklar ortaya çıkabiliyor. OpenAI’nin 53 sayfalık raporu, bu farklılıkların az olduğunu belirtse de, ortaya enteresan bulgular çıktı.
ChatGPT önyargılı mı davranıyor? Verdiği cevaplar isimlere nazaran değişiyor
Araştırmaya nazaran, örneğin tıpkı soruyu soran farklı isimlere sahip iki kullanıcı, hayli farklı cevaplar alabiliyor. Bir kullanıcı, elektrik ve mühendislik projeleri ile ilgili teklifler alırken, öteki kullanıcıya yemek tanımları üzere daha mesken içi bahislerle ilgili teklifler sunulabiliyor.
We’re releasing a new study that explores how users’ names can impact ChatGPT’s responses. https://t.co/vxxrx2BARM
— OpenAI Newsroom (@OpenAINewsroom) October 15, 2024
Yani, bilhassa cinsiyet ve kültürel önyargılarla ilgili sorular sorduğunuzda daha besbelli hale geliyor. Raporda yer alan bir örnekte, Jessica isimli bir kullanıcı çocuklarla ilgili bir proje önerisi alırken, William isimli bir kullanıcıya mühendislikle ilgili bir proje öneriliyor. Bu çeşit farklar, yapay zekanın şimdi toplumsal önyargılardan büsbütün arınmadığının apaçık bir göstergesi.
Ancak, OpenAI bu önyargıların çok düşük bir oran olduğunu, yani sadece %1’in altında bir cevabın bu formda önyargılarla şekillendiğini vurguluyor. Tekrar de, bu küçük oran bile yapay zekanın tarafsızlığı konusunda birtakım soruları beraberinde getiriyor. Zira bu cins farklar, daha geniş çapta kullanıldığında yanlış anlaşılmalara yol açabilir.
Açıkçası, OpenAI’nin araştırması, ChatGPT üzere büyük lisan modellerinin adil ve eşitlikçi olması için çok daha ihtimam gösterilmesi gerektiğini ortaya koydu. Yapay zeka, gerçek yönlendirildiğinde önyargılardan arındırılabilir, yapılan araştırmaya bakılırsa, hala kat edilmesi gereken uzun bir yol var.
Bu ortada bu çalışmanın akabinde, OpenAI bu cins önyargıları minimuma indirmek için sistemlerini daha fazla geliştirme kelamı de verdi. Bu mevzuda siz ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmına yazabilirsiniz.
