Yapay Zeka Güvenliği Çağrıları OpenAI Gibi Şirketlere Nasıl Yardımcı Olabilir?

Daha fazla yapay zeka araştırmacısı OpenAI ‘ın güvenlik uygulamalarına karşı çıkıyor

Aylardır, Sam Altman’ın liderliğindeki OpenAI’nin yeni yapay zeka ürünlerini piyasaya sürme konusunda, onları güvenli hale getirmek gibi zor bir işi yapmaktan çok daha heyecanlı olduğuna dair endişelerimi yazıyorum. İşte bu güvenlik uygulamaları artık ulusal bir haber konusu. Geçen hafta OpenAI’de süper hizalama ekibini yöneten Jan Leike bu nedenle şirketten ayrıldı. Bu hafta beş eski OpenAI araştırmacısından oluşan bir grup, OpenAI ve diğer yapay zeka şirketlerinin büyük yapay zeka modellerini koruma konusunda yeterince ciddi olmadıklarını belirten açık bir mektup imzaladı. Yapay zeka modelleri büyük bir yatırım fırsatı haline geldikçe, araştırma laboratuvarları güvenlik araştırmalarını daha geniş bir toplulukla açıkça paylaşmayı bıraktı. Mektupta, “ Yapay zeka şirketlerinin şu anda bu bilgilerin bir kısmını hükümetlerle paylaşma konusunda sadece zayıf yükümlülükleri var, sivil toplumla ise hiç yok” deniyor.

Mektupta, Yapay Zeka şirketlerinden, yapay zeka modellerinden kaynaklanan potansiyel zararlar ve riski azaltmaya yönelik güvenlik çalışmaları hakkında daha fazla şeffaflık içinde hareket etmeleri talep ediliyor. Ayrıca şirketlere, ihbarcıların konuşmasını önlemek için geniş gizlilik anlaşmaları kullanmayı bırakmaları çağrısında bulunuyor. (Diğer bazı mevcut OpenAI şirketleri, misillemeden korktukları için isimsiz olarak imzaladılar, ayrıca bir mevcut ve bir eski Google DeepMind araştırmacısı)

OpenAI sözcüsü Lindsey Held yaptığı açıklamada, “En yetenekli ve en güvenli yapay zeka sistemlerini sağlama konusundaki geçmişimizle gurur duyuyoruz” dedi. Yapay zeka araçları hala gerçekten tehlikeli olabilecek sezgi, muhakeme yeteneği ve eylemliliğe sahip olmaktan uzakken bunu söylemek kolay. Henüz bir Yapay Zeka sisteminin otonom olarak hareket ederek örneğin elektrik şebekesini kapattığını ya da birinin mutfağında yapılabilecek ölümcül bir biyolojik silahın tarifini ürettiğini görmedik.

Sonuç olarak, OpenAI gibi şirketler güvenlik kaygılarından dolayı bu endişelerden zarar görmüyor. Aslında, onlara yardımcı oluyor. Bu haber döngüsü, yapay zeka modellerinin “yapay genel zeka ”ya ulaşmanın eşiğinde olduğu aldatmacasını besliyor, bu da modellerin düşünme görevlerinde genel olarak insanlardan daha iyi olduğu anlamına geliyor (bugün hala hedefleniyor). Ayrıca, eğer hükümetler yapay zeka gelişimine sıkı düzenlemeler getirmek için harekete geçerse, bu sadece onları zaten inşa etmiş olan iyi niyetli teknoloji şirketlerini güçlendirecektir.

Elon Musk’ın yapay zeka hedefleri gizemini koruyor

Ancak CNBC bu hafta Elon Musk’ın Tesla’nın binlerce Nvidia H100 yapay zeka çipi siparişini kendi sosyal medya şirketi X’e (eski adıyla Twitter) yönlendirdiğini bildirdi. Musk’ın her iki şirketin de CEO’su olması, bazı Tesla yatırımcılarını kızdıran bir zaman paylaşımı düzenlemesi. Musk rapora karşılık vererek Tesla’nın pahalı ve çok rağbet gören Nvidia çiplerini kullanmaya hazır olmadığını, X’in ise hazır olduğunu söyledi.

Tüm bu yaşananlar Musk’ın teknoloji imparatorluğunun birbirine bağlı yapısına işaret ediyor. Musk, Tesla yatırımcılarına bu yıl çok daha fazla Nvidia GPU çipiyle Tesla’nın yapay zeka gücünü artıracağını söylüyor. Musk Nisan ayında Tesla’nın Nvidia’nın amiral gemisi H100 çiplerinin sayısını yıl sonuna kadar 35.000’den 85.000’e çıkaracağını söyledi. Tesla, Nvidia çiplerini otomobillerindeki navigasyon sistemlerini geliştirmek ve desteklemek ve robotik araştırmalar için kullanıyor.

Musk da içerik ve reklam hizmeti için Nvidia çiplerini kullanan X için en az 12.000 adet H100 siparişi verdi. Musk’ın şirketi xAI şu anda araştırmaları için X’in veri merkezi kapasitesinin bir kısmını kullanıyor, bu nedenle yeni H100’lerin en azından bir kısmına da erişmesi muhtemel. xAI’nin mevcut yapay zeka ürünü olan Grok, sadece metin tabanlı bir yapay zeka modeli tarafından destekleniyor, ancak modelin ikinci nesli muhtemelen görüntüleri ve sesleri işleyebilecek.

Musk’ın hedefleri çok daha ileri gidebilir. Bazı üst düzey yapay zeka yeteneklerini cezbetmeyi başaran xAI’nin, karanlık maddeyi, kara delikleri veya şu anda iklim değişikliğinden muzdarip karmaşık ekolojik sistemleri modellemek gibi bazı çok ağır bilim sorunlarına odaklanmasını istediğini söyledi. Bu da çok fazla sermaye ve hesaplama gücü gerektiriyor. Musk kısa bir süre önce xAI için 6 milyar dolarlık yeni bir fon sağladı ve raporlar, muhtemelen Oracle ile ortaklaşa devasa bir süper bilgisayar veya “ Bilgi İşlem Fabrikası” inşa etmeyi planladığını söylüyor.

2024 yılı yapay zeka için patlama ya da bitiş anlamına gelebilir

Eğer 2023, üretken yapay zekanın laboratuvardan çıkıp gerçek dünyada çalışmaya başladığı yıl olduysa, 2024 de birçok C-suite tipinin yönetim kurulları tarafından bu yapay zeka araçlarının gerçek verimlilik artışları ve maliyet tasarruflarıyla sonuçlanabileceğini göstermeye çağrılacağı yıl olacaktır. Cevap büyük olasılıkla karışık olacaktır.

Boston Consulting CEO’su Christoph Schweizer, müşteri şirketlerle yapılan yeni bir anketin özetinde, “İlginç bir şekilde, GenAI’nin yükselişi, birçok yöneticinin şirketlerinin genel AI başarılarına ilişkin değerlendirmelerini sarsmış gibi görünüyor” dedi. “2022 ve 2024 yılları arasında, şirketlerinin yapay zekayı etkili bir şekilde uyguladığını bildiren yöneticilerin oranı %37‘den %10’a düştü.”

Sorunun bir kısmı teknolojinin kendisinden kaynaklanıyor. Büyük dil modelleri (LLM’ler) ve şimdi de çoklu modal modeller bazı etkileyici şeyler yapabilse de, hala temel şekillerde başarısız oluyorlar. Halüsinasyonlar devam ediyor. Pek çok şirket, YZ modellerini güvenilir kurumsal verilere dayandırmak için gereken altyapı çalışmalarını hala kavramaya çalışıyor. Ve YZ modelleri, insanların iyi olduğu bir konuda başarısız oluyor: Bizler sürekli olarak yeni şeyler öğrenebilir ve ihtiyaç duyduğumuzda yeni bilgileri uygulamayı öğrenebiliriz, oysa üretken YZ modellerinin eğitim verileri, dünya hakkında hiçbir bilgiye sahip olmadıkları belirli bir tarihe kadar gider.

https://www.fastcompany.com

Facebook\\\\\\\'ta paylas

Tweetle