Blockchain ile Yapay Zeka’da müşteri güvenini nasıl inşa edebilirsiniz?

Kısa bir süre içinde, birçok sektör, insanların günlük yaşamını etkileyen kararlar almak için yapay zekâ (YZ) kullanmaya başladı. YZ, “bizim önyargılarımızı ve ahlaki kusurlarımızı bize yansıtan bir ayna” olarak tanımlanabilir, bu da zaman zaman talihsiz ve hatta trajik hatalara yol açabiliyor. Önyargılar, YZ’nin “kara kutu” olmasının ve güven sorunlarının yalnızca bir nedeni. Pew Araştırma Merkezi geçen yıl, Amerikalıların %52’sinin YZ konusunda endişeli olduğunu, sadece %10’unun ise heyecanlı olduğunu bulmuştu.

Açıkça, YZ kendini güvenilir bir teknoloji olarak kanıtlamak zorunda. Bunu yapabilmek için, YZ kullanan şirketler, bu analitik modellerin verdiği kararların yorumlanabilirliğini, denetlenebilirliğini ve uygulanabilirliğini sağlamalıdır. Yorumlanabilirlik, teknolojinin anlaşılmasını sağlar. Denetlenebilirlik, hesap verebilirliği sağlar. Son olarak, uygulanabilirlik şüpheleri giderir ve güveni beraberinde getirir.

Eğer şirketler, YZ yatırımlarından gerçek ticari faydalar sağlamak istiyorsa, müşterilerin buna güvenmesi gerekmektedir. YZ’ye olan toplumsal güvensizlik yalnızca, bu teknolojinin nasıl çalıştığına dair müşteriler, düzenleyiciler ve diğer ilgili taraflar tarafından sorulan sorulara cevap verildiğinde ortadan kalkabilir. Blockchain tabanlı hesap verebilirlik kullanımı, hesap verebilirlik ve uygulanabilirlik için ulaşılabilir, operasyonel bir yol sunmaktadır.

FICO olarak, blockchain teknolojisini kullanarak hem tüketicilerin hem de finans sektörünün YZ’ye güvenini inşa ediyoruz. Blockchain, YZ model geliştirilmesinin her yönünü değiştirilemez bir şekilde kaydeder ve her bir hareketin, Sorumlu YZ için kurumsal gereksinimlere ve standartlara uygunluğunu sağlar. Blockchain sistemi, veri bilimcilerine olan güvensizliği işaret etmek yerine, güvenin kişisel bir mesele olmadığını gösterir — hayatın önemli şeylerinin neden sözleşmelerle korunduğuna dair bir açıklama sunar. Blockchain, suçu işaret etmek için değil; herkesi dürüst, verimli, güvenli ve standartlara uygun tutmak için tasarlanmıştır. Doğru yönetişim ve hesap verebilirlik yapılarıyla, YZ yeniliği güvenli ve geniş bir alan içinde gelişebilir.

Bu makale, FICO’nun blockchain tabanlı YZ model geliştirme yönetimini nasıl benimsediğini, bunun işine nasıl fayda sağladığını ve diğer şirketlerin bu yaklaşımı nasıl benimseyebileceğini ve fayda sağlayabileceğini anlatan bir vaka çalışması sunmaktadır.

Blockchain ile YZ’nin Buluşması

2021’de FICO’nun YZ ve analitik yeniliklerinden sorumlu veri bilimi ekibi, model geliştirme yönetiminde blockchain kullanmaya başladı. Bu, o zamandan beri somut değer sağladı. Bu ekip, FICO’nun yazılım platformları için temel teknoloji sağlar ve kredi kartı yönetimi ve dolandırıcılık tespiti çözümleri gibi alanlarda çalışır. YZ ve analitik yeniliklerdeki yeni modelleri üretmek için blockchain kullanmanın sadece pazara giriş süremizi hızlandırmakla kalmadığını, aynı zamanda yeni modellerin üretimde tutulmasına yardımcı olduğunu gördük. Blockchain, destek sorunlarını ve model geri çağırmalarını %90’tan fazla azaltmıştır. Bunu, hızla artan model geliştirme ayrıntılarını takip etme sürecini otomatikleştirerek başarmıştır.

Bu yaklaşımın temelleri, model geliştirme sürecinin karmaşık aşamalarını yönetmek ve belgelemek için on yıldan fazla bir süredir yapılan çalışmalara dayanıyor: modelin değişkenleri, model tasarımı, kullanılan algoritmalar, eğitim ve test verileri, modelin ham latent özellikleri, etik testleri ve istikrar testleri. Bu süreç aynı zamanda önemli bir insan unsuru da içeriyor: farklı değişken setlerini geliştiren bilim insanları, model yaratımına katılanlar ve model testleri yapanlar. Her küçük değişiklik, model performansını, sorumlu kullanımını ve karar sonuçlarını etkileyebilir.

Başlangıçta, veri bilimi ekibi, geliştirme sürecine rehberlik etmek için bir analitik takip belgesi (ATD) kullanmaya karar verdi. İlk olarak uzun bir Word belgesinde yer alan bu yaklaşım, bir modelin gereksinimlerini, geliştirilmesini ve test edilmesini her yönüyle ayrıntılı bir şekilde açıklıyordu. ATD, FICO’nun YZ model geliştirme standardına bağlanan çok özel gereksinimleri içeriyordu. Tüm yapım unsurları müzakere edildikten sonra, ekibin tüm model geliştirme sürecini tanımladığı belge haline geldi.

ATD kullanmak, devrim niteliğindeydi ama yüzlerce volümlük ATD model belgesini yönetmek ve her bir modelin standarda uygunluğunu onaylamak için yapılan onlarca toplantı çok fazla idari yük yaratıyordu. Bu nedenle, 2021 yılında FICO, tüm ATD sürecini özel bir blockchain üzerine taşıdı, bu da her model için karar verme sürecinin değiştirilemez bir izini oluşturmanın çok daha kolay bir yolunu sundu. Blockchain, gereksinimler, kullanılan algoritmalar ve karşılanması gereken başarı kriterleri hakkında herhangi bir karışıklığı ortadan kaldırır, çünkü tüm bunlar geliştirmeye başlanmadan önce blockchain’e kaydedilir. Ayrıca, standartlara uyumu gösteren varlıklarla kalıcı bir bağlantı kurar, latent özellikleri ortaya çıkarır ve bunların modelde önyargıya yol açıp açmadığını belirler. Ayrıca, bu özellikler üzerinde kimlerin çalıştığını, hangi testlerin yapıldığını, onaylayan yöneticiyi ve yönetim onayını gösterir.

Önemli olarak, blockchain yalnızca olumlu sonuçların bir kontrol listesini oluşturmaz; aynı zamanda süreç boyunca yapılan hataları, düzeltmeleri ve iyileştirmeleri de içerir.

Blockchain Neden İşe Yarar?

ATD, uzun Word belgelerinden çok daha ileri gitmiştir. FICO’nun blockchain tabanlı yaklaşımı, her görevi veri bilimcilerinin günlük işlerine entegre edilmiş kolayca kullanılabilir bir arayüze dönüştürür. Blockchain’e her geliştirme kararını kaydetmek, sadece işin yapılma şekli haline gelir ve modellerin serbest bırakılabilmesi için bir gerekliliktir.

FICO, blockchain’in değiştirilemez kaydının işletme değerini devasa buldu. Küresel bir veri bilimi organizasyonunda tutarlılık sağlıyoruz; her yıl yüzlerce üretim analitik varlığı üzerinde model geliştirme işlemi standart ve tutarlı hale geliyor, böylece karışıklık ve israflar minimize ediliyor.

İsrafı azaltmak önemlidir, çünkü kaybolan yeniliklerin fırsat maliyetleri çok yüksektir ve YZ geliştirme yetenekleri ve ilgili hesaplama kaynaklarının çok somut maliyetleri vardır. Finansal hizmetlerde, yalnızca dahili olarak geliştirilen YZ modellerinin bir kısmı üretime alınır, çünkü içeriği ya da nasıl performans göstereceği konusunda kimse emin değildir. 2019’da McKinsey & Co. tarafından yapılan bir anket, finansal hizmetler sektöründeki katılımcıların yalnızca %25 ile %36’sının şirketlerinde YZ’yi çeşitli kullanım alanlarında devreye aldığını ortaya koydu. Anektod olarak, bu rakamların iyileştiğini görmekle birlikte, sektörde kullanılmayan YZ varlıkları hala yüz milyonlarca dolarlık boşa harcanan çabayı temsil etmektedir.

Sonuçta, FICO blockchain’in neden işe yaradığını, olmayan şeylerden anlıyor. Modeller, riskleri hakkında belirsizlik olduğu ya da şirketin Sorumlu YZ standartlarına uyumu gösteren varlıkların eksik olduğu için üretimden geri tutulmaz. Bilim insanları, üretim modellerini araştırma projelerinde kullanmak için yanlışlıkla veya kötü niyetle kullanmazlar; blockchain, ekiplerin uyumlu, standartlara uygun ve gereksinimleri karşılayan verimli bir şekilde çalışmasını sağlar. Model destek sorunları neredeyse sıfıra düştü ve YZ model geliştirme standartlarına tam uyum ve uygulama sağlanmıştır.

Tüm bunlar, YZ’de güven inşa etmenin operasyonel anahtarıdır. FICO, çıktılarının %100 FICO’nun standartlarına uygun olmasını sağlayarak, çalışmaların ispatlı varlıklarla desteklendiğini kanıtlar. Bu, tüketicilerin bu araçları kullanırken, aynı standartlara göre sorumlu YZ deneyimi yaşayacakları anlamına gelir.

Facebook\\\\\\\'ta paylas

Tweetle