Daha iyi işlere imza atmak için insan ve yapay zekâ nasıl birlikte çalışabilir

İşte size bir çelişki: Şirketler işlerini düzene koymak adına yapay zekâyı kritik kararlar için kullanırken, verimlerini yanlışlıkla azaltabilirler. İş teknolojisti Sylvain Duranton, "İnsan artı Yapay Zekâ" yaklaşımını savunuyor - Yapay zekâ sistemlerini insanlar yerine değil, insanlarla birlikte kullanmak - ve şirketlerin insanları döngüde tutarak yapay zekâyı başarılı bir şekilde kullanması için özel bir formülü paylaşıyor.

Size bir çelişkiden bahsedeyim.

Son 10 yıldır

pek çok şirket daha az bürokratik olmaya,

merkezi kuralları
ve prosedürleri azaltmaya,

yerel takımlarını daha verimli kılmak
için özerkliklerini artırmaya çalışıyor.

Fakat şimdilerde yapay zekâyı dayatıyorlar

ve bu havalı teknolojinin

onları hiç olmadığı kadar bürokratik
hale getireceğini fark etmiyorlar.

Neden mi?

Çünkü yapay zekâ tıpkı
bürokrasi gibi işler.

Bürokrasinin özü

insani yargılar yerine kural
ve prosedürleri gözetmektir.

Yapay zekâ sadece kurallara dayalıdır.

Çoğu, geçmiş verilerden
çıkarılan kurallardır

fakat yalnızca kurallar.

İnsani yargılar işin içine katılmadığında,

yapay zekâ, bürokrasinin
yeni ve korkunç bir şeklini getirecektir.

Yapay zekânın kurallar yoluyla,
insan kontrolü olmadan

her geçen gün daha fazla
kritik kararlar almasını

"algokrasi" olarak tanımlıyorum.

Burada bir risk var mı?

Evet var.

800 yapay zekâ uzmanından oluşan
bir gruba liderlik ediyorum.

Dünyadaki büyük şirketler için

100'ün üzerinde yapay zeka
çözümünü hayata geçiriyoruz.

Geçmişten gelen bürokratlar gibi davranan
birçok kurumsal yönetici ile tanışıyorum.

Maliyetli, eski kafalı insanları
döngülerden çıkartıp

kararların alınmasını
sadece yapay zekâdan bekliyorlar.

Bunu "sıfır-insan zihniyeti"
olarak adlandırıyorum.

Kulağa neden bu kadar cezbedici geliyor?

Çünkü diğer istikamet olan
"insan artı yapay zekâ"

uzun, maliyetli ve zor.

İş ekipleri, teknoloji ekipleri,
ve veri bilimi ekiplerinin

insan ve yapay zekânın birlikte
en iyi nasıl çalışacağını tasarlamaları

aylarca sürecek çalışmalar gerektirir.

Uzun, maliyetli ve zor.

Fakat ödülü çok büyük.

BCG ve MIT'nin yeni bir anketine göre

dünyadaki şirketlerin yüzde 18'i

yapay zekâya öncülük edip

onun sayesinde para kazanıyorlar.

Bu şirketler yapay zekâ
girişimlerinin yüzde 80'ini

verimliliğe, büyümeye

ve daha iyi kararlar almaya odaklamıştır.

Maliyetleri azaltmak için insanların
yerine yapay zekâyı koymaya değil.

Peki insanları döngüde tutmak
neden önemli?

Çünkü yapay zeka yalnız bırakıldığında,
fazlasıyla aptalca şeyler yapabilir.

Bazen, bu tweet'teki gibi,
sonuçları olmayan şeyler yapar.

"Sevgili Amazon,

bir tuvalet kapağı aldım.

İhtiyaçtan, istekten değil.

Koleksiyonunu yapmıyorum.

Tuvalet kapağı bağımlısı değilim.

Her ne kadar cezbedici
e-postalar atsanız da

şöyle düşünmeyeceğim:

"Peki o zaman, kendimi bir
tuvalet kapağı daha alarak şımartayım."

(Kahkahalar)

Bazen ise, şu tweet'teki gibi
daha fazla sonuçları olur:

"Annemin küllerinin olduğu
vazo konusunda

bana da aynı şey oldu.

(Kahkahalar)

"Ölümünden aylar sonra,

Amazon'dan şöyle mesajlar aldım:

"Eğer bunu beğendiyseniz."

(Kahkahalar)

Bazen daha kötü sonuçları da olur.

Öğrencilerin üniversite başvurularını
reddeden bir yapay zekâ robotu ele alalım.

Peki neden?

Çünkü geçmiş verilerden

dersi geçecek ve kalacak öğrencilerin
karakteristiklerini "öğrendi".

Bazıları not ortalaması
gibi bariz olsa da,

geçmişte, belli bir posta kodundaki
öğrencilerin hepsi dersten kalsaydı

yapay zekânın bunu bir
kural haline getirecek

ve bu posta kodundaki
tüm öğrencileri eleyecekti

ve bu kuralın yanlış olduğunu kimsenin
kanıtlamasına fırsat vermeyecekti.

Kimse tüm kuralları kontrol edemez.

Çünkü gelişmiş bir yapay zekâ
sürekli bir öğrenme durumundadır.

İnsanlar odanın dışında tutulduğunda,

algokratik kabus gerçeğe dönüşür.

Bu öğrenciyi reddetmekten kim sorumlu?

Hiç kimse, yapay zekâ yaptı.

Peki bu adil mi? Evet.

Aynı objektif kurallar kümesi
herkese uygulandı.

Yanlış posta kodundaki bu parlak çocuğu
tekrar değerlendirebilir miyiz?

Hayır, algoritmalar
fikirlerini değiştiremez.

Burada bir seçim yapmalıyız.

Algokrasi ile devam etmek

ya da "İnsan artı yapay zekâ"
yolundan gitmek.

Bunu yapmamız için

öncelikle teknolojiyi düşünmekten vazgeçip

gizli formülü uygulamaya
başlamamız gerekir.

"İnsan artı yapay zekâ"yı uygulamamız için

çabanın yüzde 10'unu
algoritmaları kodlamaya

yüzde 20'sini teknolojiyi
algoritmaların etrafında inşa etmeye,

veri toplamaya, arayüz inşa etmeye,
eski sistemlere entegre etmeye ayıralım.

Fakat yüzde 70'ini,
yani çabanın büyük bir kısmını

yapay zekâyı insanlar ve süreçlerle
birlikte dokumaya harcayarak

gerçek neticeyi en yükseğe çıkartabiliriz.

Yüzde 70'lik kısımdan feragat edildiğinde,
yapay zekâ başarısız olur.

Bunun maliyeti şu kadar küçük olabilir,

milyonlarca doları kullanışsız
bir teknolojiye yatırmak.

Umursayan var mı?

Ya da gerçek trajediler:

Yakın zamanda kaza yapan
iki B-737 uçak sonucunda 346 ölü.

Bilgisayarlı komut sisteminde

pilotlar düzgünce iletişim
kuramadığından kaynaklandı.

Başarılı bir yüzde 70 için ilk adım

algoritmaların veri bilimciler
ve alan uzmanları tarafından

birlikte kodlandığından emin olmaktır.

Sağlık sektörünü ele alalım.

Ekiplerimizden biri, ufak bir sorunu olan
bir ilaç üzerinde çalıştı.

İlk dozlarını aldıklarında,

bazı hastaların çok az bir kısmı
kalp krizi geçiriyordu.

Bu nedenle ilk dozu alacak tüm hastalar

bir günlerini hastanede
geçirmek zorundaydı.

Ne olur ne olmaz onları
gözlemlemek gerekir.

Amacımız, sıfır kalp krizi riskine sahip

hastanedeki günü pas geçebilecek
hastaları tanımlamaktı.

Klinik deneylerin verilerini analiz etmek

ECG sinyallerini, kan bileşimlerini
ve biyobelirteçleri

kalp krizi riskiyle ilişkilendirmek için
yapay zekâyı kullandık.

Bir ay içinde

modelimiz sıfır riskte olan hastaların
yüzde 62'sini işaretleyebildi.

Hastanedeki günü pas geçebilirlerdi.

Algoritma dedi diye

ilk dozunuzda evde kalmaya
razı olur muydunuz?

(Kahkahalar)

Doktorlar razı olmadı.

Ya yanlış negatif hatamız vardıysa?

Yani yapay zekânın evinde kalıp
ölmeyi önerdiği insanlar olursa?

(Kahkahalar)

Bizim yüzde 70'imiz böyle başladı.

Modelimizdeki her değişkenin

tıbbi mantığını kontrol etmek için
bir doktor ekibiyle çalıştık.

Örneğin, belirteç olarak
bir ciğer enziminin

yoğunluğunu kullanıyorduk.

Bunun tıbbi mantığı çok açık değildi.

İstatistiksel sinyal oldukça kuvvetliydi.

Fakat ya bu, bizim
örneğimizdeki bir ön yargıysa?

O belirteç bizim modelimizden çıkarıldı.

Doktorların gerçek hayatta titizlikle
ölçemediği belirteçleri de

uzmanların uyarısıyla çıkarttık.

Dört ay sonra,

bir modelimiz ve tıbbi bir
protokolümüz olmuştu.

Geçtiğimiz ilkbaharda

tıbbi otoriteler tarafından
ikisi de onay aldı.

Böylece hastaların yarısına daha az stres

ve daha iyi yaşam kalitesi sağladık.

Bunun dışında, ilacın satışlarında
100 milyonun üzerinde artış bekleniyordu.

Yapay zekânın yüzde yetmişini
ekipler ve süreçler ile işlemek

ayrıca insanların ve yapay zekanın
en zor sorunları beraber çözebilmesi için

güçlü arayüzler inşa etmekti.

Öncelikle bir giyim firması
bize meydan okudu.

"Dünyadaki en iyi
satın alma uzmanlarına sahibiz.

Satış tahminlerinde onları yenebilecek

bir yapay zekâ motoru
inşa edebilir misiniz?

Gelecek sene için
kaç adet lüks, açık yeşil

XL erkek tişörtü satın almamız
gerekeceğini söyleyebilecek?

Neyin satıp satmayacağını

tasarımcılarımızdan
daha iyi öngörebilecek?"

Geçmiş satış verilerini kullanarak
ekibimiz birkaç haftada bir modeli eğitti

ve yarışma, insan satın almacılar
ile beraber organize edildi.

Peki ya sonuç?

Tahmin hatalarını yüzde 25 düşürerek
yapay zekâ kazandı.

Sıfır insan savunucuları bu birincil
modeli uygulamaya çalışabilirlerdi

ve tüm insan satın almacılara
savaş açabilirlerdi.

İyi eğlenceler.

Fakat biliyoruz ki insan satın almacıların
geçmiş verilerde bulunmayan şekilde

moda akımları hakkında öngörüleri vardı.

Yüzde 70'imiz burada başladı.

İnsan satın almacıların

yapay zekânın önerdiği sayıları incelediği

ve gerektiğinde düzeltebildiği

ikinci bir teste gittik.

Sonuç mu?

İnsanların kullandığı yapay zekâ kaybetti.

İnsanların yaptığı
düzeltmelerin yüzde 75'i

doğruluk payını azaltıyordu.

İnsan satın almacılardan
kurtulmanın vakti gelmiş miydi?

Hayır gelmemişti.

İnsanların yapay zekânın
doğruluğunu sınamayacağı

fakat yapay zekânın
insan satın almacılardan

gerçek girdiler alacağı
bir model yaratma vaktiydi.

Modeli tamamen yeniden inşa ettik

ve "Hey, insan! Tahminlerim şunlar,

istediğin kısmı düzeltebilirsin."

diyen birincil arayüzümüzden

çok daha zengin bir arayüze geçtik.

"Hey, insanlar!

Önümüzdeki senenin akımlarını bilmiyorum.

En yaratıcı tahminlerinizi
benimle paylaşır mısınız?"

"Hey, insanlar!

Şu birkaç büyük parçanın miktarını
belirlememe yardım eder misiniz?

Geçmiş veride karşılaştırabileceğim
güzel bir örnek bulamadım."

Sonuç mu?

Tahmin hatalarını yüzde 50 azaltarak

"İnsan artı yapay zekâ" kazandı.

Aracı tamamlamamız bir yılımızı aldı.

Uzun, maliyetli ve zor.

Fakat kâr ve faydalar

giyim şirketine yıllık 100 milyonun
üzerinde bir tasarruf sağladı.

Çok hassas konular üzerine yüzde 70 demek,

aynı zamanda insanların
doğru ve yanlışı belirlemesi

ve yapay zekânın neyi yapabilip

neyi yapamayacağının
kurallarını koyması demekti.

Bunlara örnek; fiyatlandırma motorlarının
sunulan fiyatı kabul edecek

eğitimsiz müşterilere
aşırı yüksek fiyat sunmaması için

tavan fiyat eklemek olabilir.

Bu sınırları sadece
insanlar tanımlayabilir.

Yapay zekânın bunları geçmiş verilerde
bulabilmesinin ihtimali yoktur.

Bazı durumlar gri alanda kalıyordu.

Bir sağlık sigortası
şirketiyle çalışıyorduk.

Hangi müşterilerinin hastaneye
gitmek üzere olduğunu belirleyerek

onlara lüks hizmetler satan

bir yapay zekâ motoru geliştirmişti.

Sorun şuydu:

Hastaneye gitmesi gerekebileceğinden

henüz haberi olmayan bazı müşteriler

satış ekibi tarafından arandılar.

Bu şirketin CEO'su sizsiniz.

Bu programı durdurur musunuz?

Kolay bir soru değil.

Bu soruyu ele almak için bazı şirketler,

iş ve teknoloji ekiplerini
kişiselleştirme ve manipülasyon,

kişiye özel teklifler ve ayırımcılık,
hedefleme ve ihlal arasında

limitler konulmasına yardımcı
olacak takımlar kurup

etik kurallar
ve standartlar tanımlıyorlar.

Herhangi bir şirkette
gerçekten önemli durumlarda

yapay zekâ uygulamanın çok büyük
getirisi olduğuna ben ikna oldum.

İş liderleri yapay zekâyı
takım ve süreçlerine

verimli bir şekilde uygulamak isterlerse

cesur olmaları,

birkaç konu seçmeleri,

her konu için teknoloji, yapay zekâ,
veri bilimi, etik gibi

en iyi takımlarından 10, 20, 30
kişiyi harekete geçirip

"İnsan artı yapay zeka" felsefesinin
yüzde 10- 20-70 döngüsünün

tamamının üzerinden gitmeleri gerekir.

Başka bir yolu yok.

Gelişmiş ekonomilerdeki vatandaşlar
algokrasiden hali hazırda korkuyorlar.

Yeni bir anket kapsamında
yedi bin kişiyle görüşüldü.

Bunların yüzde 75'inden fazlası

yapay zekânın iş gücüne,
gizliliğe etkisinden

ve insanlıktan çıkmış bir toplum riskinden
cidden endişelendiklerini belirttiler.

Algokrasiyi dayatmak
şirketlerde ve hatta toplumda

yapay zekâya karşı
ciddi bir ters tepki riski yaratır.

"İnsan artı yapay zekâ"
yapay zekânın faydalarını

gerçek dünyaya getirmek için
tek seçeneğimizdir.

Son olarak

kazanan kuruluşlar
insan bilgisine yatırım yapacaklar.

Sadece yapay zekâ ve veriye değil.

İnsan uzmanlarını işe almak,
eğitmek, ödüllendirmek.

Verinin petrolün yerini aldığı söyleniyor

fakat aslında fark yaratan şey
insan bilgisi olacak.

Çünkü veride gizlenmiş petrolü
pompalamak için

mevcut olan tek vinç odur.

Teşekkürler.

(Alkışlar)