Yapay Zekâda Güvenlik

Konu Anlatımı

Bu derste şunları öğreneceğiz:

• Yapay zekâda kullanılan verinin neden önemli olduğunu anlamak.
• Önyargı ve uydurma bilgi risklerini örneklerle görmek.
• Kişisel veriyi yapay zekâ araçlarıyla paylaşırken dikkat etmeyi öğrenmek.
• Üretilen içeriği doğrulama ve insan denetimi kurallarını uygulamak.

Veri Her Şeydir

Yapay zekâ sistemi, eğitim verisi denilen örneklerden öğrenir. Veri ne kadar çok ve çeşitliyse sistem o kadar iyi öğrenir. Buna karşılık veri yanlış hazırlandığında ortaya çıkan sonuçlar da yanlış olur. Eğitim verisindeki eksiklik ya da dengesizlik sisteme önyargı olarak yansır. Önyargılı bir sistem bazı grupları diğerlerinden daha az doğru tanıyabilir.

Uydurma Bilgi Riski

Yapay zekâ cevabı uydurabilir. Buna uydurma bilgi denir. Sistem, verisinde bulunmayan bir bilgiyi varmış gibi sunabilir. Bu yüzden verilen her cevap bir kaynakla karşılaştırılarak doğrulanmalıdır. Sahte görüntü ve sahte video üretimi de aynı başlıkta değerlendirilir: gerçek kişi izlenimi oluşturan içerikler yanıltıcıdır.

Kişisel Veri ve Telif

Yapay zekâ araçlarına ad, adres, telefon numarası ya da kimlik bilgisi girilmemelidir. Bu bilgiler bir yerde saklanabilir ve sonradan başka amaçla kullanılabilir. Üretilen metin, görsel veya ses için kaynak gösterilmeli; izinsiz kullanılan eserlerden yararlanılmamalıdır. Şeffaflık istenmesinin nedeni budur: veri nereden geldi ve nasıl kullanıldı bilinmelidir.

İnsan Denetimi

Yapay zekâ bir yardımcıdır, karar veren değildir. Sağlık, güvenlik ve eğitim gibi alanlarda sonucun bir uzman tarafından denetlenmesi gerekir. Denetim yapılmazsa bir hata fark edilemeyebilir. Bir veri ihlali fark edildiğinde ilk iş yetkili bir kişiyi bilgilendirmek, sonra izleri korumaktır.

Basit Örnek: Uydurma Cevap

Bir ödev hazırlarken yapay zekâ aracı, bir konuyla ilgisi olmayan bir kitap adı verdiğini düşünelim. Verilen kitap adı kütüphanede bulunamaz. Bu durumda cevap doğrudan kopyalanmaz; önce kitap kütüphane kaynaklarında aranır, bulunamazsa cevap başka bir kaynaktan doğrulanır. Doğrulanamayan bilgi ödeve yazılmaz.

Adım Adım Çözüm

1. Aracın verdiği bilgiyi oku ve anla.
2. Bilgiyi bir güvenilir kaynakla karşılaştır.
3. Kaynağı bulamazsan bilgiyi kullanma.
4. Kişisel veri içermeyen bir ifadeyle kendi cümleni kur.
5. Kullandığın kaynağı ödevin sonunda yaz.

Sık Yapılan Hatalar

• Uydurma bilgiyi doğru kabul etmek: Sistem kaynaksız bilgiyi varmış gibi sunabilir, cevap mutlaka doğrulanmalıdır.
• Kişisel bilgileri araca yazmak: Yazılan ad, adres ve kimlik bilgileri sonradan başka yerde kullanılabilir.
• Kaynak göstermemek: Üretilen içerik de olsa kaynağı gösterilmeli, telif kuralı ihlal edilmemelidir.
• Sistemin kararını denetlememek: Önemli konularda sonucu bir uzman gözden geçirmelidir.

Özet ve Kendini Dene

Yapay zekâ eğitim verisinden öğrenir; veri yanlışsa sonuç da yanlış olur. Veri dengesizliği önyargıya yol açar. Sistem uydurma bilgi üretebilir, bu yüzden cevaplar kaynakla doğrulanır. Kişisel veriler araçlara yazılmaz, üretilen içerikte kaynak gösterilir. Sağlık, güvenlik ve eğitim gibi alanlarda sonuç uzman tarafından denetlenir. Kendini dene: Bir yapay zekâ aracının verdiği üç bilgiyi güvenilir kaynaklarla karşılaştır ve doğrulanamayanları ayrı bir listeye yaz.

Ne Öğreneceğiz

Yapay zekâ sistemlerinde veri gizliliğini, önyargıyı, uydurma bilgi riskini ve insan denetimini örneklerle ele alarak güvenli kullanım kurallarını öğretir. Bu konuda ögrenme çıktıları:

• Yapay zekâ sistemlerinde kullanılan eğitim verisinin önemini açıklar.
• Veri kaynaklı önyargı ve uydurma bilgi risklerini örneklerle gösterir.
• Kişisel veriyi yapay zekâ araçlarıyla paylaşırken izlenecek yolu belirler.
• Üretilen içeriğin doğrulanması ve insan denetiminin gerekliliğini kavrar.

Ön Bilgi

Bu konuya başlamadan önce temel kavram ve ön koşulları kavramanız yardımcı olacaktır. Konunun çerçevesinde şu kavramlar dikkat ister:

• Yapay zekâ sistemleri eğitim verisi denilen çok sayıda örnekten öğrenir.
• Veri yanlış hazırlandığında sistemin ürettiği sonuçlar da yanlış olur.
• Veri dengesizliği önyargıya yol açar ve bazı gruplar daha az doğru tanınabilir.
• Sistem, verisinde bulunmayan bir bilgiyi varmış gibi sunabilir; buna uydurma bilgi denir.
• Yapay zekâ araçlarına kimlik, adres veya telefon bilgisi yazılmamalıdır.
• Üretilen içerikte kaynak gösterilmeli, izinsiz eser kullanılmamalıdır.
• Sağlık ve güvenlik gibi alanlarda sonuç bir uzman tarafından denetlenmelidir.

İleri Örnek

Daha ileri bir uygulama:

Soru: Bir yapay zekâ aracına adres ve okul bilgisi yazmak yerine nasıl bir ifade kullanılabilir?

1. Adım 1: Kişisel bilgiyi çıkar.
2. Adım 2: Yerine genel bir ifade yaz, örneğin «bulunduğumuz bölgede».
3. Adım 3: Cevabı yine de kaynakla doğrula.

Sonuç/cevap: Kişisel bilgi yerine genel ifade kullanılır ve cevap doğrulanır.

Karşılaştırma Tablosu