{"id":2045,"date":"2023-05-18T15:00:23","date_gmt":"2023-05-18T15:00:23","guid":{"rendered":"https:\/\/cog-ist.com\/?post_type=blog_content&p=2045"},"modified":"2025-09-19T19:45:29","modified_gmt":"2025-09-19T19:45:29","slug":"yapay-zekanin-varolussal-riskleri-uzerine-romain-brette","status":"publish","type":"blog_content","link":"https:\/\/cog-ist.com\/en\/blog_content\/yapay-zekanin-varolussal-riskleri-uzerine-romain-brette\/","title":{"rendered":"Yapay Zekan\u0131n Varolu\u015fsal Riskleri \u00dczerine \u2014 Romain Brette"},"content":{"rendered":"

\u00d6zg\u00fcn Ad\u0131:\u00a0On the existential risks of artificial intelligence<\/a><\/p>\n\n\n\n

Yapay zekadaki etkileyici ilerleme insanl\u0131\u011f\u0131n eninde sonunda silinip yok olmas\u0131 veya yapay s\u00fcperzekalar taraf\u0131ndan k\u00f6lele\u015ftirilmesi korkusunu yeniden canland\u0131rd\u0131. Bu yeni bir korku de\u011fil. \u00d6rne\u011fin, bu korku, robotlar\u0131n insanlar\u0131 korumak i\u00e7in i\u00e7lerinde 3 yasay\u0131 bar\u0131nd\u0131racak bi\u00e7imde tasarland\u0131klar\u0131n\u0131 hayal eden Isaac Asimov\u2019un \u00e7o\u011fu kitab\u0131n\u0131n temelini olu\u015fturur.<\/p>\n\n\n\n

Burada bahsetmek istedi\u011fim bu tarz olaylar\u0131n imkans\u0131z oldu\u011funu sergilemek de\u011fil. Aksine, as\u0131l bahsetmek istedi\u011fim, \u00f6zerk, insan yap\u0131m\u0131 varl\u0131klar halihaz\u0131rda varlar ve bu varl\u0131klar yapay zeka yaygarac\u0131lar\u0131n\u0131n bahsetti\u011fi ayn\u0131 risklere sebep olabilmelerinin yan\u0131 s\u0131ra ger\u00e7ekler. Bu do\u011frultuda, \u015feytani yapay zeka fantezileri tamamiyle antropomorfik bir \u00e7\u0131lg\u0131nl\u0131kt\u0131r.<\/p>\n\n\n\n

Hemen birka\u00e7 yanl\u0131\u015f anla\u015f\u0131lmay\u0131 azletmeme izin verin. ChatGPT dili anl\u0131yor mu? Tabii ki de hay\u0131r. B\u00fcy\u00fck dil modelleri temelinde bir sonraki kelimeleri tahmin etmek i\u00e7in tasarlanm\u0131\u015f algoritmalard\u0131r. Fakat, biz burada insanlar\u0131n anlad\u0131\u011f\u0131 manada bir \u201ckelimeden\u201d bahsetmiyoruz. Bilgisayar mant\u0131\u011f\u0131yla kelime, biz insanlar\u0131n anlam atfetti\u011fi bir sembole tekab\u00fcl eder. ChatGPT muzlar hakk\u0131nda konu\u015ftu\u011funda, bir muzun tad\u0131n\u0131n nas\u0131l oldu\u011fu konusunda bir fikre sahip de\u011fildir (tabii \u00e7\u00fcnk\u00fc bir fikre sahip de\u011fildir). Hi\u00e7bir muzu g\u00f6rmemi\u015f ve tatmam\u0131\u015ft\u0131r (tabii \u00e7\u00fcnk\u00fc daha \u00f6nce hi\u00e7 g\u00f6rmemi\u015f ve tatmam\u0131\u015ft\u0131r). \u201cMuz\u201d sadece ba\u015fka a\u011flardan olu\u015fan, d\u0131\u015f d\u00fcnyadan, \u00f6zellikle de bir muz kelimesinin asl\u0131nda neyi kastetti\u011finden tamamiyle kopuk bir a\u011f grafi\u011finin bir par\u00e7as\u0131d\u0131r. Bu bili\u015fsel bilimde sembol temellendirme problemi olarak bilinir ve bu problem b\u00fcy\u00fck dil modellerinin \u00e7\u00f6zemedi\u011fi zor bir problemdir. B\u00f6ylece, belki de, b\u00fcy\u00fck dil modelleri dili \u201canlarlar\u201d, fakat bu ancak siz \u201canlamak\u201d kelimesini kelimelerin ne anlama geldi\u011fini bilmenin \u015fart ko\u015fulmad\u0131\u011f\u0131 bir \u015fekilde tan\u0131mlamaya g\u00f6n\u00fcll\u00fcyseniz m\u00fcmk\u00fcnd\u00fcr.<\/p>\n\n\n\n

Makine \u00f6\u011frenmesi algoritmalar\u0131 biyolojik organizmalar de\u011fillerdir. Onlar alg\u0131lamazlar, bilin\u00e7sizdirler ve insan mant\u0131\u011f\u0131yla bir maksatlar\u0131 yoktur. Fakat bunun bir \u00f6nemi yok. Yapay zeka \u00fczerine bulunan genel endi\u015fe basit\u00e7e bu algoritmalar\u0131n genel olarak \u00f6ncesinde tan\u0131mlanm\u0131\u015f kriterleri (\u00f6rne\u011fin tahmin hatas\u0131) optimize etmek \u00fczerine tasarlanm\u0131\u015f olmalar\u0131d\u0131r. Ve \u015fayet biz onlara bunu yapabilecekleri etkili yollar sunarsak, spesifik olarak d\u00fcnyadaki ger\u00e7ek eylemlerle muhatap olurlarsa onlar\u0131n kullan\u0131m\u0131n\u0131n bir g\u00fcn bizim i\u00e7in tehlike olu\u015fturmayaca\u011f\u0131n\u0131 nereden bilebiliriz? Bir noktada mutlaka \u015feytani bir zihni do\u011fru varsaymadan da biz insanlar baz\u0131 optimizasyon kriterlerinin birer arac\u0131 haline gelebiliriz. Makineye baz\u0131 teknik hedefler edindirebiliriz, ama bunlar\u0131n insani de\u011ferlerle \u00f6rt\u00fc\u015ft\u00fc\u011f\u00fcne emin olmak olduk\u00e7a zordur. Buna \u201cayarlama\u201d problemi ad\u0131 verilir.<\/p>\n\n\n\n

Peki neden olmaz? Belli oldu\u011fu \u00fczere hen\u00fcz bu hedefe yak\u0131n de\u011filiz, fakat belki, olas\u0131 bir gelecekte, ya da bir d\u00fc\u015f\u00fcnce deneyinde, bu m\u00fcmk\u00fcn olabilir. Ama beni yanl\u0131\u015f ayarlama anlat\u0131s\u0131ndan as\u0131l muzdarip k\u0131lan \u015fey, konuya antropomorfik \u015feytani robotlar\u0131n \u00f6tesinde bakmay\u0131 tercih ederseniz bu senaryo hi\u00e7 de farazi kalm\u0131yor. Ger\u00e7ekten hi\u00e7 mi hedefleri olan ve bu hedefleri insanlar\u0131n de\u011fer yarg\u0131lar\u0131yla \u00f6rt\u00fc\u015fmeyen insan yap\u0131m\u0131 varl\u0131klar\u0131 duymad\u0131n\u0131z? G\u00fc\u00e7l\u00fc ve insanlar taraf\u0131ndan kontrol edilmesi zor olan varl\u0131klar?<\/p>\n\n\n\n

E\u011fer teknolojik alandan ziyade sosyal alana bakarsan\u0131z bu soruya \u00e7ok bariz bir cevap bulursunuz: Modern finansalla\u015fm\u0131\u015f \u00e7ok uluslu kurum. Modern kurum, \u00e7\u0131kar\u0131 maksimize etmek i\u00e7in tasarlanm\u0131\u015f, insan yap\u0131m\u0131 bir organizasyondur. \u0130nsanlar gibi hedefleri veya ama\u00e7lar\u0131 yoktur fakat ayn\u0131 yapay zeka \u201cayarlama\u201d anlat\u0131s\u0131nda oldu\u011fu gibi, \u00f6nceden belirlenmi\u015f bir kriteri maksimize etmek i\u00e7in eldeki b\u00fct\u00fcn imkanlar\u0131 kullanmak \u00fczere tasarlanm\u0131\u015ft\u0131r, ki bu insanlar\u0131n de\u011fer yarg\u0131lar\u0131yla \u00f6rt\u00fc\u015febilir de \u00f6rt\u00fc\u015fmeyebilir de. Bu t\u00fcr \u015firketlere \u201c\u00e7\u0131kar robotlar\u0131\u201d diyelim.<\/p>\n\n\n\n

Peki bu \u00e7\u0131kar robotlar\u0131 insanlardan ne kadar \u00f6zerktir? G\u00fcn\u00fcm\u00fcz\u00fcn b\u00fcy\u00fck modern \u015firketleri insanlara de\u011fil kurumsal taraflara aittir. Yat\u0131r\u0131m fonlar\u0131 buna bir \u00f6rnektir. Ba\u015fka bir deyi\u015fle, ayn\u0131 hedeflere sahip di\u011fer organizasyonlar. Bilindi\u011fi \u00fczere, onlar\u0131n \u00e7ok uluslu do\u011fas\u0131 kendilerini devletlerin yasalar\u0131na kar\u015f\u0131 dayan\u0131kl\u0131 k\u0131l\u0131yor (dolay\u0131s\u0131yla mali optimizasyon, ucuz i\u015f\u00e7i kullan\u0131m\u0131 vs. gibi uygulamalar\u0131n sonu\u00e7lar\u0131ndan korunurlar). Ayr\u0131ca, bir \u00e7\u0131kar robotunun kaynaklar\u0131n\u0131n b\u00fcy\u00fck bir k\u0131sm\u0131n\u0131n pazarlama ve reklamc\u0131l\u0131\u011fa adand\u0131\u011f\u0131n\u0131 yani insanlar\u0131 kendi \u00fcr\u00fcnlerini almak i\u00e7in manip\u00fcle edilmesi \u00fczerine kullan\u0131ld\u0131\u011f\u0131 da herkes taraf\u0131ndan bilinen bir ger\u00e7ek.<\/p>\n\n\n\n

\u00c7\u0131kar robotlar\u0131 ek olarak baz\u0131 insan yasalar\u0131n\u0131 esnetmek i\u00e7in yo\u011fun bir lobicilikte de bulunur. Fakat daha da \u00f6nemlisi, yasa kavram\u0131 bir \u00e7\u0131kar robotuyla bir insan i\u00e7in ayn\u0131 de\u011fildir. \u0130nsanlar i\u00e7in yasa, etik olarak yap\u0131labilecekler ve yap\u0131lamayacaklar aras\u0131na bir s\u0131n\u0131r \u00e7izer. Fakat \u00e7\u0131kar robotu bir insan de\u011fildir ve bir etik prensibine sahip de\u011fildir. B\u00f6ylelikle, yasa sadece belirli bir s\u0131n\u0131rlamad\u0131r, do\u011frusu, bir finansal tutar veya risktir \u2014 bir \u015firket hapse girmez. Bunun i\u00e7in \u00e7arp\u0131c\u0131 bir \u00f6rnek olarak \u201cDieselgate (Dizel Kap\u0131s\u0131)\u201d skandal\u0131 verilebilir. Yine insanlara ait olmayan bir \u015firket olan Volkswagen, bilin\u00e7li olarak araba motorlar\u0131n\u0131 \u00f6yle bir programlad\u0131 ki arabalar\u0131n Amerikan piyasas\u0131na s\u00fcr\u00fclebilmeleri i\u00e7in ge\u00e7meleri gereken kirlilik testleri esnas\u0131nda araba emisyonlar\u0131 gizli kald\u0131. Bildi\u011fim kadar\u0131yla, ne hissedarlar ne de t\u00fcketiciler bu konu hakk\u0131nda bilgilendirilmedi. \u015eirket \u00f6zerk\u00e7e kendi \u00e7\u0131karlar\u0131 ad\u0131na yasalar\u0131 \u00e7i\u011fnedi. Tabii bu \u015firketin \u015feytani oldu\u011fu anlam\u0131na gelmez \u00e7\u00fcnk\u00fc o bir insan de\u011fil. Bu \u015fekilde davranmas\u0131n\u0131n sebebi bir robot olmas\u0131, t\u0131pk\u0131 yapay zekaya dair yanl\u0131\u015f ayarlama anlat\u0131s\u0131nda anlat\u0131ld\u0131\u011f\u0131 gibi.<\/p>\n\n\n\n

Hep as\u0131l g\u00fcc\u00fcn eninde sonunda neyi sat\u0131n alacaklar\u0131na kendileri karar verdikleri i\u00e7in t\u00fcketicide oldu\u011funu duyar\u0131z. Bu olduk\u00e7a yanl\u0131\u015ft\u0131r. T\u00fcketiciler, Volkswagen\u2019in kirlilik testlerinde hile yapt\u0131\u011f\u0131n\u0131 bilmiyordu. T\u00fcketiciler \u00fcr\u00fcnlerin hangi ko\u015fullarda \u00fcretildi\u011fi hakk\u0131nda ve hatta hangi \u015firkete ait oldu\u011fu konusunda nadiren bir bilgiye sahiptir. Bu tip bir bilgi t\u00fcketiciden kasten gizlenir. Di\u011fer yandan \u00e7\u0131kar robotlar\u0131, t\u00fcketicileri kendi \u00fcr\u00fcnleri almaya ikna etmek i\u00e7in manip\u00fcle ederler. Peki \u00fcr\u00fcnlerin \u00f6mr\u00fcn\u00fcn planl\u0131 olarak k\u0131salt\u0131lmas\u0131na ne demeli? Kimse kas\u0131tl\u0131 olarak erkenden bozulmak i\u00e7in tasarlanm\u0131\u015f \u00fcr\u00fcnleri istemez -ki bunlar tam olarak \u00e7\u0131kar robotlar\u0131n\u0131n tasarlad\u0131\u011f\u0131 \u00fcr\u00fcnlerdir. Yani evet, \u00e7\u0131kar robotlar\u0131 b\u00fcy\u00fck oranda insanlar\u0131n olu\u015fturdu\u011fu toplumdan \u00f6zerktir.<\/p>\n\n\n\n

\u00c7\u0131kar robotlar\u0131 insanlar i\u00e7in varolu\u015fsal bir risk mi te\u015fkil eder? Bunu s\u00f6ylemek kula\u011fa biraz dramatik gelebilir, fakat pekala olduk\u00e7a belirgin riskler te\u015fkil ettikleri s\u00f6ylenebilir. Rahats\u0131z edici bir ger\u00e7ek bunu resmediyor: Kutuplardaki buzullar k\u00fcresel \u0131s\u0131nma y\u00fcz\u00fcnden eriyor, b\u00f6ylece petrol \u015firketleri ortaya \u00e7\u0131kan yeni kaynaklar\u0131 \u00e7\u0131karmaya haz\u0131rlan\u0131yor. A\u00e7\u0131k\u00e7a bu insanlar\u0131n ilgisini \u00e7eken bir \u015fey de\u011fil, fakat bu Shell gibi sadece %6\u2019s\u0131 direkt olarak insanlara ait olan, hedeflerini s\u00fcrd\u00fcrmesi gereken, t\u0131pk\u0131 di\u011fer \u00e7\u0131kar robotlar\u0131 gibi \u00e7\u0131karlar\u0131na eri\u015fmek i\u00e7in her yolu m\u00fcbah g\u00f6ren \u015firketlerin yapmas\u0131 gerekendir. Yani evet, insan yap\u0131m\u0131 varl\u0131klar\u0131n kontrol\u00fcn\u00fcn kaybedilebilmesi ve hedeflerinin insanlar\u0131n de\u011fer yarg\u0131lar\u0131yla \u00f6rt\u00fc\u015fmemesi gibi bir risk mevcut. Bu olduk\u00e7a yerinde bir endi\u015fedir \u00e7\u00fcnk\u00fc bu endi\u015fe \u00e7oktan ger\u00e7e\u011fe d\u00f6n\u00fc\u015ft\u00fc. Tek istisna bu durumun hen\u00fcz teknolojik alanda ger\u00e7ekle\u015fmemi\u015f olmas\u0131. Bu ironik (fakat pek de \u015fa\u015f\u0131rt\u0131c\u0131 olmayan) bir ger\u00e7ek: Milyarderler yapay zekay\u0131 yanl\u0131\u015f ayarlama anlat\u0131s\u0131na inan\u0131yorlar fakat ayn\u0131 anlat\u0131n\u0131n kendi maddi varl\u0131klar\u0131n\u0131n dayand\u0131\u011f\u0131 \u015firketleri de kapsad\u0131\u011f\u0131 ger\u00e7e\u011fini g\u00f6rmekte g\u00fc\u00e7l\u00fck \u00e7ekerler, fakat bu \u00e7oktan ger\u00e7ek olmu\u015ftur.<\/p>\n\n\n\n

Yapay zeka ad\u0131na yerinde bir endi\u015fe kendisinin d\u00fcnyan\u0131n kontrol\u00fcn\u00fc ele ge\u00e7irmesi de\u011fil: As\u0131l endi\u015fe duyulmas\u0131 gereken durum yapay zekan\u0131n halihaz\u0131rda kontrol\u00fc kaybetmi\u015f, yanl\u0131\u015f ayarlanm\u0131\u015f \u00e7\u0131kar robotlar\u0131 i\u00e7in daha da g\u00fc\u00e7l\u00fc imkanlar sunuyor olmas\u0131d\u0131r. Bu ba\u011flamda \u015feytani yapay zeka fantezileri halihaz\u0131rda yaratm\u0131\u015f oldu\u011fumuz as\u0131l sorunlardan antropomorfik bir ka\u00e7\u0131\u015f bi\u00e7imidir.<\/p>","protected":false},"featured_media":2046,"template":"","meta":{"_acf_changed":false},"event_publishing_tags":[479,426,84,280,1047,94,93,262,691,64,92,323,281,285,1049,74,348,75,339,340,261,865,599,587,1048,61,338,349],"kategori":[305],"class_list":["post-2045","blog_content","type-blog_content","status-publish","has-post-thumbnail","hentry","event_publishing_tags-ai","event_publishing_tags-artificial","event_publishing_tags-artificial-intelligence","event_publishing_tags-bilgisayar","event_publishing_tags-bilgisyar-bilimi","event_publishing_tags-bilis","event_publishing_tags-bilissel-bilim","event_publishing_tags-bilissel-bilim-felsefesi","event_publishing_tags-cogist","event_publishing_tags-cognition","event_publishing_tags-cognitive-science","event_publishing_tags-cogsci","event_publishing_tags-computer","event_publishing_tags-computer-science","event_publishing_tags-existential","event_publishing_tags-felsefe","event_publishing_tags-intelligence","event_publishing_tags-philosophy","event_publishing_tags-philosophy-of-ai","event_publishing_tags-philosophy-of-artificial-intelligence","event_publishing_tags-philosophy-of-cognitive-science","event_publishing_tags-tech","event_publishing_tags-technology","event_publishing_tags-teknoloji","event_publishing_tags-varolussal","event_publishing_tags-yapay-zeka","event_publishing_tags-yapay-zeka-felsefesi","event_publishing_tags-zeka","kategori-ceviri"],"acf":[],"_links":{"self":[{"href":"https:\/\/cog-ist.com\/en\/wp-json\/wp\/v2\/blog_content\/2045","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cog-ist.com\/en\/wp-json\/wp\/v2\/blog_content"}],"about":[{"href":"https:\/\/cog-ist.com\/en\/wp-json\/wp\/v2\/types\/blog_content"}],"version-history":[{"count":0,"href":"https:\/\/cog-ist.com\/en\/wp-json\/wp\/v2\/blog_content\/2045\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cog-ist.com\/en\/wp-json\/wp\/v2\/media\/2046"}],"wp:attachment":[{"href":"https:\/\/cog-ist.com\/en\/wp-json\/wp\/v2\/media?parent=2045"}],"wp:term":[{"taxonomy":"event_publishing_tags","embeddable":true,"href":"https:\/\/cog-ist.com\/en\/wp-json\/wp\/v2\/event_publishing_tags?post=2045"},{"taxonomy":"kategori","embeddable":true,"href":"https:\/\/cog-ist.com\/en\/wp-json\/wp\/v2\/kategori?post=2045"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}