Korkunç Saptamalar İçeren Müthiş Makale: "Neden Geleceğin Bize İhtiyacı Yok?"

"Why the future doesn't need us?" adında, içinde son derece ilginç fikirler ve korkunç saptamalar barındıran çok ünlü bir bilimsel makaleyi Ekşi Sözlük yazarı "edgecrusher" çevirisiyle okuyoruz.
Korkunç Saptamalar İçeren Müthiş Makale: "Neden Geleceğin Bize İhtiyacı Yok?"
iStock

her ne kadar makalenin ortasında uzun uzun girizgahını yaptığı en son bölümdeki insan özgürlüklerinin kısıtlanması gerektiğini açıkladığı bölüme katılmasam da, joy'un yazdıklarının gerçekliği gün gibi ortada. makalenin meali:

neden geleceğin bize ihtiyacı yok?

en güçlü 21. yüzyıl teknolojilerimiz (robot teknolojisi, genetik mühendislik ve nano teknoloji), biz insanları tehlike altındaki türler haline getirmekle tehdit ediyor.

yeni teknolojilerin yaratılmasına bulaştığımdan beri, bu teknolojilerin etik boyutları hep beni kaygılandırmıştır. fakat 21. yüzyılda yüzleştiğimiz tehlikelerin ne kadar büyük olduğunu ancak 1998 sonbaharında endişe verici bir şekilde fark ettim. bu tedirginliğimin başlangıç günü, ününü hak eden, körler için ilk okuma makinesini ve daha pek çok şeyin kaşifi ray kurzweil ile tanıştığım gündü.

ray ve ben george gilder'ın telecosm konferansında konuşmacıydık ve onuna şans eseri otelin barında konuşmalarımız bittikten sonra denk geldim. bilinç üzerine çalışmalar yapan berkeley filozofu john searle ile birlikteydik. john ile konuşurken ray yanımıza geldi ve bugüne dek aklımdan çıkmayan konuşmamız başladı.

ray'in konuşmasını ve hemen arkasından gelen ray ile john'un yer aldığı paneli kaçırmıştım ve ikisi panelde kaldıkları yerden devam etmeye başladılar. ray, teknolojideki ilerlemenin daha da hızlanacağına, bizim robota dönüşeceğimize ya da robotlarla karışacağımıza, john da bunun olamayacağına çünkü robotların bilince sahip olamayacağına dair bir şeyler söylüyordu.

her ne kadar daha önce bu tarz konuşmalar duymuş da olsam, hissedebilen robotların bilim-kurgu evrenine girdiğini düşünürdüm. ama o anda son derecede saygı duyduğum birisinden bunun gerçek olabileceğine dair son derecede güçlü bir argüman dinlemekteydim. kafam karışmıştı, özellikle de ray'in kanıtlanmış olan geleceği hayal edip yaratması yeteneği göz önünde bulundurulursa. genetik mühendislik ve nano teknolojinin zaten dünyayı baştan yaratmamıza elverecek bir gücü bize verdiğini biliyordum, ama kısa zamanda olması muhtemel ve gerçekçi bir "zeki robot" senaryosu beni şaşırtmıştı.

bu tarz ileri atılımlardan bezmek çok kolay. her gün haberlerde bir tür teknolojik ya da bilimsel bir keşif ya da atılım duyuyoruz. ama bu konuşulan hiç de sıradan bir tahmin değildi. otelin barında ray bana, öngördüğü bir ütopyanın altını çizen, o dönemde çıkmak üzere olan kitabı the age of spiritual machines'in (ruhani makinelerin çağı) ön baskısının bir bölümünü vermişti. kitapta insanlar robot teknolojisiyle bütünleşerek neredeyse ölümsüz oluyorlardı. kitabı okuduktan sonra tedirginliğim daha da artmıştı; tehlikeleri, bu yolda kötü bir sonla bitecek olasılıkları hafife aldığına emindim.

şu distopik senaryoyu detayla anlatan metni okuduğumda ise tedirginliğim son derecede artmıştı:

"luddite'ların yeni meydan okuyuşu"

"öncelikle bilgisayar bilimcilerinin, her türlü işi insanların yapabileceğinden çok daha iyi şekilde yapabilen makineler yaptıklarını var sayalım. bu durumda tahminen bütün işler devasa boyutlarda, yüksek derecede organize olan makine sistemleriyle yapılacak ve hiçbir insan eforu gerektirmeyecek. bu durumda şu iki olasılık gerçekleşebilir. makinelerin hiçbir insan idaresine gerek olmadan kendi kararlarını vermesine izin verilecek, ya da makineler insan kontrolünde olacak."

"eğer makinelere tüm kararlarını kendi verme izni verilirse, olası sonuçlara dair bir tahmin yapamayız, çünkü bu tarz makinelerin nasıl davranacağını bilemeyiz. yalnızca insan ırkının kaderinin, makinelerin elinde olacağına işaret edebiliriz. insan ırkının bütün kontrolü olduğu gibi makinelere verecek kadar aptal olmadığı savunulabilir. ama ne insan ırkının gönüllü bir şekilde bütün gücü makinelere teslim edeceğini ima ediyoruz, ne de makinelerin kasten gücü ele geçireceklerini. ima ettiğimiz şey, insan ırkı rahatlıkla kendisini makinelere bağımlı hale getirecek bir pozisyona sürükleyebilir ve makinelerin vereceği kararlara uymak dışında yapabileceği hiçbir uygulanabilir seçeneği kalmayabilir. toplum ve toplumun yüzleştiği problemler her geçen gün gittikçe daha da karmaşıklaşırken ve makineler gün geçtikçe daha da zekileşirken makineler tarafından verilen kararların insanlar tarafından yapılanlara oranla daha iyi sonuçlar vermesi yüzünden, insanlar makinelere daha fazla insanlık adına karar verebilme yetkisi verecek. er ya da geç bu karar verme mekanizması öyle bir noktaya gelecek ki, sistemin işlevliğini sürdürebilmesi için verilmesi gereken kararlar o denli karmaşıklaşacak ki, insanlar gerekli kararları akıllıca yapabilme yetisiden mahrum olacaklar. bu noktada makineler etkin bir şekilde kontrolü ellerine geçirmiş olacaklar. insanlar artık makineleri kapatamayacak konumda olacaklar çünkü makinelere o denli bağımlı olacaklar ki onları kapatmak intiharla aynı anlama gelecek."

"diğer yandan insanın makineler üzerindeki kontrolü sağlanabilir. bu durumda ortalama bir birey kendisine ait bir takım makineleri kontrol edebilir; örneğin bilgisayarı, arabası gibi şeyleri, ama geniş çaplı makine sistemleri çok küçük bir elit grubun elinde olacaktır. tıpkı bugün olduğu gibi, yalnızca iki farkla. gelişmiş tekniklerden ötürü elit kimseler, büyük halk kitlelerinin kontrolüne sahip olacaklar ve insan iş gücü artık gerekli olmayacağından dolayı bu halk kitleleri gereksiz ve sistemin üzerindeki fuzuli bir yük olacaklar. eğer elit kısım acımasızsa, insanlığın büyük kısmını tamamen ortadan kaldırmayı seçebiliriler. eğer insancıllarsa propaganda, psikolojik ve biyolojik teknikler kullanarak doğum oranını sıfırlayıp bu halk kitlelerinin soyunu tüketerek dünyayı kendilerine bırakabilirler. ya da eğer elit kısım yumuşak kalpli liberallerden oluşuyorsa iyi kılavuzlar olmayı seçerek kalan topluma çobanlık yapabilirler. herkesin fiziksel ihtiyaçlarının çaresine bakıp, bütün çocukların psikolojik açında hijyenik koşullarda büyümelerini sağlayıp, herkese kendilerini meşgul edecek birer hobi verip, memnun olmayanlara da bir "tedavi" uygulayarak "problem"ini çözebilirler. tabii böyle bir durumda yaşam o denli amaçsız olacaktır ki, insanların güce ihtiyaç duyma sürecini engellemek ya da onları "süblim" bir hale getirebilmek için biyolojik veya psikolojik açıdan tekrar tasarlayıp zararsız bir hobiye yöneltmek gerekecektir. bu tasarlanmış insanlar böyle bir toplumda mutlu olabilirler, ama kesinlikle özgür olmayacaklardır. evcil hayvanlar statüsüne düşürülmüş olacaklardır. (1) "

kitapta bu metnin yazarının theodore kaczynski - unabomber olduğunu, sayfayı çevirene dek keşfetmiyorsunuz. kaczynski adına özür dileyecek değilim. bombaları 17 yıllık bir terör kampanyası boyunca 3 kişinin ölümüne ve pek çok kişinin ciddi şekilde yaralanmasına neden oldu. bombalarından birisi, zamanımızın en parlak ve vizyon sahibi olan bilgisayar uzmanlarından birisi olan arkadaşım david gelertner'i ağır şekilde yaraladı. pek çok meslaktaşım gibi, unabomber'ın bir sonraki hedefinin ben olduğunu hissedebiliyordum. (ç.n. unabomber manifesto'nun türkçe çevirisine #18842887 no'lu sari pipi çamasir ipientrysinden ulaşabilirsiniz.)

kaczynski'nin eylemleri kanlı eylemlerdi ve, şahsi görüşüme göre, cezai ehliyeti olmayan birisinin yapabileceği şeylerdi. kendisi bariz bir şekilde luddite'tır, fakat bunu söylemek onun argümanını geçersiz kılmıyor; bunu kabul etmek benim için oldukça zor olsa da, verilen metindeki mantığın az da olsa hakkı var. kendimi bu mantıkla yüzleşmek zorunda hissettim.

kaczynski'nin disütopik öngörüsü kasıtlı olmayan sonuçları tarif ediyor; açık bir şekilde murphy'nin "yanlış gidebilecek bir şey varsa, yanlış gider." kuralıyla (aslında bu finagle'nin kuralıdır ve kendi içinde kanıtlar ki finagle haklıymış) direkt olarak bağlantılı olan teknolojinin dizaynı ve kullanımının bilinen bir probleminden. antibiyotikleri fazla ve gereksiz bir şekilde kullanmamız şu ana kadar karşı karşıya geldiğimiz en büyük problemlerden birisi olabilir: antibiyotiklere bağışıklı olan daha tehlikeli bakterilerin türemesi. benzer şeyler sıtma taşıyıcısı sivrisinekleri ddt kullanarak yok etmeye çalışırken, sineklerin ddt bağışıklığı kazanmasıyla başımıza geldi; sıtma parazitleri taşıyıcılarının ddt bağışıklığını sayesinde pek çok ilaca bağışıklık kazandılar. (2)

bu tarz pek çok sürprizin nedeni oldukça açık: duruma müdahil olan sistemler, pek çok parçanın birbirine geri bildirimi ve karşılıklı etkileşimi sonucunda oluşan sistemler, son derece karmaşıklar. bu tarz bir sistemde değişiklikler yapmak öngörülmesi oldukça zor şekillerde kademeli olarak tepki verecektir; bu özellikle insan müdahalesi olan konularda oldukça geçerlidir.

arkadaşlarıma the age of spiritual machines kitabındaki kaczynski'nin alıntı metnini göstermeye başlamıştım, onlara kurzweil'in kitabını verip, metni okutup metni kimin yazdığını görmelerine verdikleri tepkiyi seyrediyordum. aynı zamanlarda hans moravec'in kitabı robot (robot: basit makineden yüce zihne) isimli kitabını keşfettim. moravec, carnegie mellon universitesi'ndeki dünyanın en büyük robot teknolojisi araştırma programının kurucularındandı ve halen robot teknolojisi araştırmalarında dünya liderlerinden birisi. kitabı, arkadaşlarım üzerinde deneyebilmem için tuhaf bir şekilde kaczynski'nin argümanını destekleyecek daha fazla materyal sağlamıştı. örneğin:

"kısa dönem (2000'lerin ilk yarısı)"

"biyolojik varlıklar, kendilerinden üstün rakiplerle karşılaşmalardan neredeyse asla sağ çıkamazlar. on milyon yıl önce güney ve kuzey amerika, batık bir panama kanalı ile ayrıydılar. güney amerika, tıpkı günümüzün avustralyası gibi, keseli memelilerle (fare, geyik ve kaplan gibi hayvanların keseli denkleriyle) doluydu. kuzey ve güney amerika'yı birleştiren kanal ortaya çıktığında, kuzeydeki plasental türler aha etkili metabolizmaları, üreme şekilleri ve sinir sistemleriyle, güneydeki keseli memelileri yerlerinden edip yok etmeleri yalnızca birkaç bin yıl sürdü. "

"tamamıyla serbest bir piyasada, daha üstün olan robotlar şüphesiz ki insanları kuzey amerikalı plasentalıların güney amerikalı keselileri etkilediği gibi etkileyecektir (ve insanlar sayısız türü etkilemişlerdir). robot endüstrisi kendi içinde dinamik bir şekilde madde, enerji ve alan yarışı yapacak ve sonuç olarak piyasa fiyatlarını insanlığın erişebileceğinden çok yukarılara taşıyacaktır. hayatın gereksinimlerini elde edemeyen biyolojik insanlar, tarihten silineceklerdir. "

"büyük ihtimalle bu gelecekte biraz soluk alınacak bir boşluk bulunmakta, çünkü tamamen serbest bir piyasaya sahip değiliz. devletler market dışı tavırlara baskı yapıyor, özellikle de vergi toplayarak. mantıklı bir şekilde uygulanırsa, büyük bir ihtimalle uzun bir süreliğine, devlet baskısı insanlara robot işçiliğinin yüksek standarlarından yararlanma şansı tanıyabilir."

tipik bir distopya - ve açıkçası moravec bu konuda oldukça gergin. 21. yüzyıl boyunca asıl görevimizin, "iyi" (3) davranmaları gerektiğine dair çeşitli yasalar çıkartarak ve bir insanın "herhangi bir bağa sahip olmayan süper zekalı bir robota" dönüşmesiyle ne kadar tehlikeli bir varlık olacağını tanımlayarak, robot endüstrisinin kesintisiz işbirliğini sağlamamız gerektiği olduğuna dair bir tartışmayla devam ediyor kitaba. moravec'in görüşü robotlar önünde sonunda bizim yerimizi alacaklar - insanlık bariz bir şekilde neslinin tükenişiyle karşı karşıya.

bu noktada artık arkadaşım danny hillis'le konuşmam gerektiğine karar vermiştim. danny, son derecede güçlü bir paralel süper bilgisayar üretmiş olan thinking machines corporation'un kurucu ortağı olarak ünlenmişti. her ne kadar sun microsystems'taki ünvanım başmühendis olsa da, bir bilim adamından çok bilgisayar mimarı sayılırım ve danny'nin fiziksel bilimler konusundaki bilgisine, tanıdığım herkesten daha çok saygı duyarım. danny aynı zamanda uzun süreli düşünen ve oldukça saygı gören bir fütüristtir; dört yıl önce toplumumuzun acınacak derecede kısa süreli olan dikkatini çekmek amacıyla 10000 yıl boyunca dayanacak bir saat dizayn eden the long now foundation'ı kurdu.

böylece danny ve eşi pati ile yemek yemek için los angeles'a uçtum. rutinime girerek beni rahatsız eden fikirler ve metinleri göstererek danny'ye yaklaştım. danny'nin cevabı (özellikle kurzweil'in insanlarla birleşen robotlar senaryosuna işaret ederek) oldukça hızlıydı ve beni şaşırttı. basitçe, bu tarz gelişmelerin adım adım geleceğini ve buna rahatlıkla alışacağımızı söyledi.

gerçi sanırım çok da sürprize uğramamıştım. kurzweil'in kitabında, danny'den bir alıntı görmüştüm ve alıntıda şöyle diyordu: "vücudumdan herkes gibi memnunum, ama eğer 200 yaşına silikondan bir vücutla erişebileceksem, onu tercih ederim." görünüşe göre ben bu sürece ve sürecin getirdiği risklerle karşı rahatsızken, o gayet huzurluydu.

kurzweil, kaczynski ve moravec'den bahsedip haklarında konuşurken aniden aklıma yaklaşık 20 yıl önce okuduğum bir roman geldi; ailesinin anlamsızca katledilmesinden dolayı deliren bir moleküler biyologdan bahseden frank herbert'ün the white plague'i (beyaz veba). kitapta biyolog, intikam almak için son derecede bulaşıcı ve yaygın bir şekilde fakat seçerek öldüren bir virüs geliştirip yayıyordu. (kaczynski moleküler biyolog değil de matematikçi olduğu için sanırım oldukça şanslıyız). aynı zamanda aklıma star trek'teki borglar da gelmişti; kısmen biyolojik, kısmen robotik bireylerden oluşan ve oldukça yıkıcı bir yöne sahip olan bir topluluk. borglar gibi felaketler bilim-kurgunun mihenk taşlarıdırlar, o halde neden daha önce robotsal disütopyalarla ilgili böylesine bir endişeye kapılmamıştım? neden diğer insanlar bu denli kabusumsu senaryolara karşı endişelenmiyorlardı?

bu sorunun cevabı kısmen yeniye karşı tavrımızda, yani ani bilinmeye ve sorgusuz kabulümüzde yatıyor. artık neredeyse rutin hale gelmiş bilimsel gelişmelere alışık olmamız nedeniyle, en zorlu 21. yüzyıl teknolojilerinin (robot teknolojiler, genetik mühendislik ve nanoteknoloji) geçmiş teknolojilerimizden farklı bir tehdit unsuru içerdiğini fark edemiyoruz. özellikle robotlar, tasarlanmış organizmalar ve nanobotlar tehlikeli bir genişleme faktörü içeriyor: bunlar kendi kendilerini üretebiliyorlar. bir bomba, yalnızca bir kere patlar. ama bir bot, pek çok bot haline gelebilir ve rahatlıkla kontrolden çıkabilir.

geçtiğimiz 25 yıl boyunca pek çok çalışmam, mesaj göndermenin ve almanın kontrolsüz kendiliğinden kopyalanma olanağını yaratan bilgisayar ağları üzerineydi. ama kendini kopyalama bir bilgisayar ya da bilgisayar ağında sıkıntı yaratabilir, en kötü ihtimalle de bir bilgisayarı çalışmaz hale getirir ya da ağı veya ağ sunucusunu çökertir. bu yeni teknolojilerde kontrolsüz kendini kopyalama ise daha büyük bir risk taşıyor: fiziksel dünyada azımsanmayacak derecede büyük bir zarar verme riski.

bu teknolojilerin her biri aynı zamanda muazzam potansiyel taşıyor. kurzweil'in robot rüyalarında gördüğü ölümsüzlüğe yakın varoluş öngörüsü bizi insanlık olarak ileriye götürüyor, genetik mühendislik kısa süre sonra, tam olarak iyileştirmese de çoğu hastalıkta tedavi edici şekilde tedavilerde kullanılmaya başlanabilir ve nanoteknoloji ve nanoilaç, daha da fazla hastalığa çözüm getirebilir. birlikte ortalama yaşam süremizi önemli bir oranda uzatabilir ve hayatımızın kalitesini arttırabilirler. ancak sözü geçen her teknolojide küçük, birbirinden bağımsız gelişmeler birikerek, çok büyük güce ve beraberinde çok büyük tehlikelere neden olabilirler.

20. yüzyıl'da farklı olan neydi? kitlesel imha silahları ve nükleer, biyolojik ve kimyasal silahlar ve bunların altında yatan teknolojiler oldukça güçlüydü ve bu silahlar korkunç bir tehlikeydi. ama nükleer silahlar yapmak, en azından bir süreliğine, ender bulunan ve rahat sağlanamayan ham maddelere ve son derece sıkı korunan bilgiye erişime gereksinim duymaktaydı. biyolojik ve kimyasal silahlar ise aynı şekilde büyük çaplı girişimlere ihtiyaç duyardı.

21. yüzyıl teknolojileri (genetik teknoloji, nanoteknoloji ve robot teknolojisi) o denli güçlü ki, kendi başlarına yepyeni kaza sınıfları ve istismar şekilleri yaratabilirler. en tehlikeli olarak da, tarihte ilk kez, bu kazalar ve istismarlar geniş çaplı olarak şahısların ya da küçük grupların erişiminde olacak. geniş çaplı tesislere ya da az rastlanan ham maddelere ihtiyaç duymayacaklar. bilginin orada olması, bilginin kullanımına direkt olarak yol açacak.

böylece yalnızca kitlesel imha silahları tehlikesi değil, bir de bilgiyle sağlanan kitlesel imhaya da sahip olma olasılığı doğuyor. bu yıkıcılık, kendini kopyalamanın gücü sayesinde inanılmaz derecede güçleniyor.

sanırım aşırılarda kötülüğün kusursuzlaştırılmasının doruk noktasındayız demek abartı olmayacaktır. öyle bir kötülük ki, kitlesel imha silahlarının ulus-toplumlara sağladığını, şaşırtıcı ve korkunç bir şekilde aşırıcı bireylere miras bırakmaktadır.

bilgisayarlarla muhatap olduğum zaman içinde uğraştığım hiçbir şey, beni bu tarz sorunlarla karşılaşacağıma dair bir emare vermemişti.

hayatım, soru sormak ve sorularıma cevap almak gibi derin bir istek üzerine kuruludur. 3 yaşımdayken okumaya başlamıştım, bu yüzden babam beni ilkokula götürdü. müdürün kucağında oturup, ona hikayeler okurdum. okula erken başladım, daha sonra bir sınıf atladım ve kitaplara kaçtım; inanılmaz derecede öğrenmeye motiveydim. bazen büyüklerin dikkatini dağıtacak kadar sürekli soru sorardım.

onlu yaşlarımda bilim ve teknolojiye oldukça meraklıydım. amatör radyo operatörü olmak istiyordum, ama gerekli ekipmanı alacak paramız yoktu. amatör radyolar o zamanın internetiydi; son derecede bağımlılık yapıcı ve oldukça münferit. para sorunu bir yana, annem işe el koymuştu; amatör radyocu olmayacaktım, zaten yeterince anti sosyaldim.

pek çok yakın arkadaşım yoktu ama fikirler içinde boğuluyordum. liseye geldiğimde büyük bilim-kurgu yazarlarını keşfettim. özellikle heinlein'in have spacesuit will travel'ını ve asimov'un robot teknolojisinin üç kuralı'na sahip i, robot'unu net bir şekilde hatırlarım. uzay yolculuğunun detaylı anlatımlarından son derece etkilenmiştim ve bir teleskop alıp yıldızları görmek istiyordum. ama bir teleskop alacak ya da yapacak paramız olmadığı için, kütüphanede teleskop yapımıyla ilgili kitapları araştırırdım ve teleskopları yapmak yerine onları yapmak hakkında kitapları okurdum.

perşembe geceleri ebeveynlerimiz bowling oynamaya giderdi ve biz çocuklar evde yalnız kalırdık. perşembe gene roddenberry'nin orijinal star trek serisinin gecesiydi ve bu program bende büyük bir etki yarattı. dizinin düşüncesi olan insanın uzayda, western filmleri tarzında, büyük kahramanlar ve maceralarla dolu bir geleceği olduğunu kabul etmiştim. roddenberry'nin gelecek yüzyıllara olan bakışı, prime directive (teknolojik açıdan daha az gelişmiş uygarlıklara karışmamak) gibi kurallarla vücuda gelmiş, gayet güçlü ahlaki değerlere sahip bir vizyondu. bunun benim için oldukça güçlü bir cazibesi vardı; geleceğe etik insanlar, robotlar değil, egemendiler ve roddenberry'nin hayalini kendi hayalimin bir parçası olarak benimsedim.

lise boyunca matematikte oldukça başarılıydım ve daha sonra michigan üniversitesi'ne mühendislik lisans için öğrenci olarak gittiğimde üst sınıfların matematik ileri müfredatını almaya başladım. matematik problemlerini çözmek eğlenceli bir görevdi, ama bilgisayarları keşfettiğimde daha da ilginç bir şey buldum: bir makineye, bir problemi çözebilmesi için bir program yüklüyordunuz ve sonrasında makine hızlıca o sorunun cevabını buluyordu. bilgisayarın son derecede net doğru ve yanlış, geçerli ve hatalı kavramları bulunmaktaydı. fikirlerim doğru muydu? makine bana bir cevap verebilirdi. bu fikir son derecede baştan çıkarıcıydı.

ilk süper bilgisayarları programlama işini kaptığımda oldukça şanslıydım ve bu sayede büyük makinelerin, numerik olarak gelişmiş dizaynların benzerlerini yapabileceğini hayretle keşfettim. 1970'lerin ortalarında lisansüstü eğitim için uc berkeley'e gittiğimde gece geç saatlere kadar ayakta kalıp, makinelerin içindeki yeni dünyaları keşfettim. problemler çözdüm. o yazılmak için savunmasını var gücüyle yapan kodu yazdım.

irving stone'un michelangelo'nun biyografik romanı olan the agony and the ecstasy'de (ızdırap ve coşku), michelangelo'nun zihnindeki görüntülerden yola çıkarak, "mermer büyüsünü bozmak için" heykelleri nasıl mermerden özgür bıraktığını canlı bir biçimde betimler. (4) en coşkun olduğum anlarda, bilgisayarın içindeki yazılım aynı şekilde dışarıya çıkardı. zihnimde bir kere canlandırdıktan sonra zaten makinenin içinde kurtarılmak için beklediğini hissederdim. gece geç saatlere kadar ayakta kalmak onu serbest bırakmaya, fikirlere somut bir hal vermeye karşılık küçük bir bedeldi.

berkeley'de bir kaç yıl geçirdikten sonra yazdığım bazı bilgisayar yazılımlarını, benzer küçük pdp-11 ve vax mini bilgisayarları kullanan kişilere dağıtmaya başladım: eğitimli bir pascal sistemi yazılımı, unix yardımcı yazılımı, ve vi adı verilen bir text editörü (ki şaşkınlığıma ve aradan 20 yıl geçmesin rağmen halen geniş olarak kullanılmakta olan bir editör). bu yazılımdaki maceralarım daha sonra berkeley üniversitesi'nin unix işletim sistemine dönüştü ve daha sonra da benim için kişisel bir "başarı faciası" oldu. o kadar çok insan talep ediyordu ki doktoramı asla veremedim. onun yerine darpa'da berkeley'in unix'ini internette koyup üzerinde düzeltmeler yaparak güvenilir bir araştırma uygulamalarını çalıştırabilecek hale getirmek için çalışmaya başladım. bütün bunlar çok eğlenceliydi ve son derecede tatminkardı. ve açıkçası bunlar üzerine çalıştığım dönem boyunca hiçbir robot görmedim.

yine de 1980'lerin başlarında boğuluyordum. unix sürümleri oldukça başarılı olmuştu ve kısa süre sonra küçük projemin parası ve birkaç çalışanı bile olmuştu. ama berkeley'deki asıl problem paradan çok alan sıkıntısıydı; projenin ihtiyacı olan alan için yeterli yer yoktu, bu yüzde sun microsystems'in diğer kurucu üyeleri ortaya çıktıklarında onlara katılma fırsatına hemen saldırdım. sun'da uzun saatler kişisel bilgisayarlar, iş istasyonları başında günlere dönüştü ve ben geliştirilmiş mikroişlemci teknolojisinin ve java ile jini gibi internet teknolojilerinin yaratılışına katkıda bulunmaktan zevk aldım.

umarım bu hikayemden bir luddite olmadığım açıklığa kavuşmuştur. aslen her zaman doğruyu aramak için bilimsel araştırmaya ve maddesel bir gelişim sağlamak için büyük mühendisliğe çok güçlü bir şekilde inanırdım. endüstri devrimi son bir kaç yüzyılda herkesin hayat kalitesini arttırdı ve ben her zaman kariyerimin gerçek sorunlara faydalı çözümleri teker teker üretmekten oluşması gerektiğini düşündüm.

hayal kırıklığına da uğramadım. çalışmam umduğumdan çok daha büyük etkilere yol açtı ve mantık çerçevesinde beklediğimden çok daha uzun süre ve çok daha geniş bir tabanda kullanıldı. son yirmi yılımı bilgisayarları daha istediğim kadar güvenilir hale getirmek (henüz buna çok yakın değiller) ve onları basitçe kullanılabilir hale getirmekle (ki bu hedefim diğerinden daha az göreceli başarı elde etti) harcadım. bir takım gelişmelere rağmen kalan problemler daha da göz korkutucu görünüyor.

silah teknolojisi gibi araştırmaların, teknolojinin sonuçlarını içine alan etik ikilemlerinin farkında olsam da açıkçası kendi alanımda hiç bu tarz sorunlarla başa çıkmam gerekeceği aklıma gelmemişti; en azından bu kadar yakın bir zaman diliminde.

belki de bir değişimin girdabına dahil olduğunuzda daha büyük olan sonucu görmek daha zordu. keşfin ve buluşun heyecanına kapılmışken icatlarımızın sonuçlarını anlamakta başarısız olmak, biz bilim adamları ve teknologlar arasında yaygın bir hata gibi görünüyor; bilim macerasının doğasını bilmek arzusu o kadar uzun bir süredir bize hakim ki, daha yeni ve daha güçlü teknolojilerin kendi kendine hayat bulabileceğini anlamak için bir an bile durmuyoruz.

uzun süredir enformasyon teknolojisindeki büyük atılımlar, bilgisayar bilimcilerinden, bilgisayar mimarlarından ya da elektrik mühendislerinden değil, fizik bilimcilerinden geliyor. 1980'lerin başında fizikçi stephen wolfram ve brosl hasslacher beni kaos teorisi ve nonlinear sistemlerle tanıştırdılar. 1990'larda danny hillis, biyolog stuart kauffman, nobel ödülü sahibi fizikçi murray gell-mann ve daha başkalarıyla ile sohbetlerimizde karmaşık sistemleri öğrendim. yakın zamanlarda hasslacher ve elektrik mühendisi ve makine fizikçisi mark reed, bana moleküler elektroniklerin inanılmaz ihtimalleri konusunda gözlerimi açtılar.

üç ayrı mikroişlemci mimarisinin kodunu yazmış olmak (sparc, picojava ve majc) moore kanunu ile birinci elden ve derin bir tanışıklığım olmasını sağladı. moore kuralı onlarca yıl boyunca yarı-iletken katlanarak gelişmesini doğru bir şekilde öngörmüştü. geçtiğimiz yıla kadar moore yasasıyla öngörülen ilerlemelerin, fiziksel bir takım sınırlara ulaşılmasıyla birlikte kabaca en fazla 2010'a kadar devam edebileceğini düşünüyordum. yeni bir teknolojinin tam zamanında yetişip bu performansın kusursuzca devamını sağlayabileceğini düşünmemiştim.

moleküler elektronikteki hızlı ve radikal gelişmeler (tekil atomlar ve moleküllerin, litografik olarak çizilmiş transistörlerin yerini alması) yüzünden ve bununla bağlantılı nano ölçek teknolojiler sayesinde moore yasasının öngördüğü ilerleme oranını bir otuz yıl boyunca daha tutturabilecek, hatta geçebileceğiz. 2030'a kadar büyük ihtimalle bugün kullandığımız bilgisayaların milyonlarca kat daha güçlülerini toplu olarak üretebileceğiz. kurzweil'in ve moravec'in rüyalarını gerçekleştirmeye yetecek kadar.

bu devasa bilgisayar gücü, fizik biliminin çıkarcılığıyla ve genetik biliminin geniş kavrayışlarıyla birleşince ortaya devasa bir değişimci güç ortaya çıkıyor. bu kombinasyonlar dünyayı, daha iyi ya da daha kötü olarak, tekrar dizayn etmemizi sağlayacak fırsatlar getiriyor. doğal dünyayla kısıtlı kalmış olan evrimsel ve kendini kopyalayarak çoğalma işlemleri artık insan çabasının dünyasına dahil oluyor.

yazılım ve mikroişlemcileri dizayn ederken, asla kendimi akıllı bir makine yapıyormuşum gibi hissetmemiştim. yazılım ve donanım o denli kırılgan ve makinenin "düşünme" kabiliyeti o denli yok ki, ihtimal olarak bile olarak bu durum hep çok ileri gelecekteymiş gibi gelirdi.

fakat şimdi gelecek otuz yıldaki insanlığın elde edeceği bilgisayar gücü ihtimali göz önüne alındığında yeni bir fikir kendini ima ediyor: gelecekte türümün yerini alacak bir teknolojiyi olanaklı kılacak aletler yaratmak için çalışıyorum. bu konuda ne hissediyorum? gerçekten rahatsız. tüm kariyerim boyunca güvenilebilir yazılım sistemleri yapmaya çalışmamdan ötürü, bana öyle geliyor ki bu gelecek bazı insanların hayallerinde canlandırdığı gibi iyi bir şekilde gelmeyecek. kişisel deneyimlerim, bizim dizayn kabiliyetlerimizi abartma eğiliminde olduğunu söylüyor.

bu teknolojilerin inanılmaz gücünü göz önünde bulundurursak, bunlarla en iyi şekilde nasıl bir arada var olabileceğimizi sormamız gerekmez mi? ve eğer kendi teknolojik gelişimimiz sonucunda soyumuzun tükenmesi muhtemelse (hatta mümkünse), büyük bir ihtiyatla hareket etmemiz gerekmez mi?

robot teknolojisinin hayali ilk olarak bizim için bizim işimizi görebilen zeki makineler yaparak lüks hayatlar yaşamamızı sağlayarak bizi cennet'e geri götürmektir. yine de george dyson bu tip fikirler içeren kitabı darwin among the machines'de (makinelerin arasındaki darwin) uyarıyor: "yaşam ve evrim oyununda, masada üç oyuncu vardır: insanlar, doğa ve makineler. ben kesin olarak doğanın yanındayım. ama şüphe ediyorum ki doğa makinelerin yanında." gördüğümüz (ve moravec'in katıldığı) gibi bizden üstün olan bir robot ırkına karşı sağ kalamayacağımıza inanıyor.

zeki bir robot ne kadar zamanda yapılabilir? bilgisayar gücündeki süregelen gelişmelere bakılırsa 2030'a kadar bunu gerçekleştirmemiz mümkün görünüyor. ve zeki bir robot bir kere var olduğunda, bir robot ırkına ulaşmak için küçük bir adım geriye kalıyor - hem de kendisinin evrilmiş kopyalarını üretebilen zeki bir robot ırkına.

robot teknolojisinin ikinci bir rüyası ise bilincimizi download ederek ölümsüzlüğe yakın bir yaşam formu kazanarak adım adım robot teknolojisiyle kendimizi değiştirmemiz. danny hillis'in zamanla alışacağımıza inandığı ve ray kurzweil'in the age of spiritual machines'te de anlattığı tam olarak bu süreçtir.

ama eğer kendi teknolojimizin içine download olursak, bundan sonra kendimiz olacağımızı, hatta hatta insan olacağımızı kim garantileyebilir? bana öyle geliyor ki robotik bir varoluş kesinlikle anlayışımız dahilinde bir insan varoluşuna benzemeyecektir ve robotlar çocuklarımız olmayacaklarından dolayı bu yolda insanlığımızın ortadan kaybolması tamamen olasıdır.

genetik mühendislik böcek ilaçlarının kullanımını azaltırken mahsul verimini arttırmayı vaat eder. pek çok hastalığa tedavi bulmak, yaşam süremizi ve kalitesini arttırmak gibi amaçlarla on binlerce yeni tip bakteri, bitki, virüs ve hayvan yaratarak, üremenin klonlama sayesinde yerini alır ya da üremeye ilave eder. artık biliyoruz ki biyolojik bilimlerde olan bu kökten değişiklikler son derecede yakın ve hayatın ne olduğuna dair bütün düşüncelerimize meydan okuyacak.

insan klonlama gibi teknolojiler, özellikle yüzleştiğimiz derin etik ve ahlaki sorunlar konusunda bir bilinç uyandırdı. örneğin eğer genetik mühendislik aracılığıyla kendimizi ayrı ve eşit olmayan bir çok tür olarak yeniden yapılandırsaydık, demokrasimizin köşe taşı olan eşitlik kavramını tehlikeye atmış olurduk.

genetik mühendisliğin olağanüstü gücü dikkate alındığında, kullanımında çok büyük güvenlik sorunları olduğunu görmek bir sürpriz değil. arkadaşım amory lovins geçenlerde hunter lovins ile birlikte bu tip tehlikelere ekolojik açıdan yaklaşan bir baş makale yazdı. kaygılarının arasında "yeni botanik, bitkilerin gelişimlerini evrimsel başarı açısından değil, ekonomik başarı açısından sıralıyor" da var ( a tale of two botanies, [iki botaniğin hikayesi)]sayfa 247). amory'nin uzun kariyeri, insan-yapımı sistemlere, tüm-sistem bakışı getirerek enerji ve kaynak etkinliği sağlamaktan oluşuyor. bu tip bir tüm-sistem bakış açısı çoğunlukla zor görünen problemlere basit, akıllı çözümler bulur ve bu da bizim bakış açımızdan yine geçerli olacaktır.

lovins'in başyazısını okuduktan sonra the new york times gazetesinde gregg easterbrook'un genetik mühendislik ürünü olan ekinler hakkında yazdığı "food for the future: someday, rice will have built-in vitamin a. unless the luddites win." (gelecek için gıda: bir gün pirinç yapısında a vitamini bulunduracak. eğer luddite'lar kazanmazsa.) başlıklı yazıyı okudum.

amory ve hunter lovins, birer luddite mı? kesinlikle değil. inanıyorum ki hepimiz yapısında a vitamini bulunduran altın pirincin iyi bir şey olduğuna kanaat getirebiliriz, eğer uygun bakım ve tür sınırlarından genleri taşımanın getirdiği tehlikeye karşı saygıyla yetiştirilmişlerse.

lovins'in makalesinde de bahsettiği gibi, genetik mühendisliğin içinde bulundurduğu tehlikeler konusunda bilinç gittikçe artmaya başladı. çoğunlukla halk, genetiğiyle oynanmış gıda maddelerinin farkında ve bu konuda rahatsız hissediyor. bu tip gıda maddelerinin etiketsiz satılmasına izin verilmesi fikrine de karşı.

fakat genetik mühendislik teknolojisi zaten uzun süredir sofralarımızda. lovinler'in de yazdığı gibi, usda (united stases department of agriculture / birleşik devletler tarım departmanı) 50 ayrı tip genetik mühendislik ürünü ekini sınırsız dağıtımı konusunda onaylamış durumda. dünyadaki soya fasülyelerinin yarısından fazlası ve mısırlarının üçte biri farklı yaşam formlarından eklenmiş genler içeriyor.

bu konuda pek çok önemli sorun olsa da, benim genetik mühendislik konusunda en büyük kaygım daha dar bir şey: gerek askeri, gerek kazara, gerekse terörizm açısından olsun; bir beyaz veba yaratabilme gücünü veriyor.

nanoteknolojinin pek çok harikası, nobel ödülü sahibi fizikçi richard feynman'ın 1959'da yaptığı bir konuşmanın "there's plenty of room at the bottom" (dipte yeteri kadar yer var) adıyla basılmasında ilk kez hayal edilmiştir. üzerimde '80'lerin ortalarında büyük bir etki bırakan bir kitap da, atomik seviyede maddeyi manipüle ederek gelecekte bolluk içinde ütopik bir şekilde yaşayan ve hemen her şeyin ucuz bir şekilde yapılabildiği ve neredeyse akla gelen bütün hastalıkların ve fiziksel problemlerin nanoteknoloji ve yapay zeka ile çözülebildiğini son derece güzel bir şekilde anlatan eric drexler'ın engines of creation''ıydı (yaradılışın makineleri).

ardından birkaç yazarla birlikte yazdığı unbounding the future* (geleceğin iplerini çözmek: nanoteknoloji devrimi) isimli kitapta drexler, moleküler seviyede "birleştiriciler"in olduğu bir dünyada yaşamanın getireceği değişimleri hayal ediyor. birleştiriciler inanılmaz derecede düşük bir maliyetle güneş enerjisi harmanlayabilirler, kansere ve nezleye karşı bağışıklık sistemine takviyeler yaparak bu hastalıkların üstesinden gelebilirler, doğanın tam olarak temizliğini sağlayabilirler, saçma derecede ucuz cep süper bilgisayarları üretebilirler - aslına bakarsanız her türlü ürün bir tahtadan daha pahalı olmaksızın yapılabilir, uzay gezginliği bugünkü okyanuslar arası seyahatten daha rahat erişebileceğiniz bir servis olacak ve soyu tükenmiş türlerin onarımını sağlayabilirler.

engines of creation'u okuduktan sonra nanoteknoloji hakkında çok iyi hissettiğimi hatırlıyorum. bir teknolog olarak bu kavram bana bir sakinlik aşılamıştı; çünkü nanoteknoloji bize inanılmaz bir gelişimin olası olduğunu ve büyük ihtimalle kaçınılmaz olduğunu kanıtlamıştı. eğer nanoteknoloji bizim geleceğimizi kapsıyorsa, günümüzde bu kadar problemle boğuşmak zorunda kalmayacağım anlamına geliyordu bu. zamanla drexler'ın ütopik geleceğine zamanı gelince gidebilirdim, bu yüzden şu anda hayattan daha fazla zevk alabilirdim. drexler'ın öngörüsüne göre her zaman geceler boyunca uykusuz kalmak hiç de mantıklı değildi.

drexler'ın öngörüsü aynı zamanda pek çok eğlenceye de yol açtı. bazen bu kavramın ne olduğunu duymamış kişilere nanoteknolojinin harikalarından bahsederdim. onlara drexler'ın anlattığı her şeyi kullanarak sataştıktan sonra kendime bir ev ödevi atardım: "bir vampir yaratmak için nanoteknoloji kullan; fazladan kredi için antidotunu da yap."

bu harikalar beraberlerinde son derecede açık tehlikeler de getiriyorlardı ve ben bu tehlikelerin keskin bir şekilde farkındaydım.1989'da düzenlenen bir nanoteknoloji konferansında da söylediğim gibi, "sadece bilimle uğraşıp bu tip etik sorunlar hakkında endişelenmemezlik edemeyiz." (5) ama fizikçilerle sonradan yaptığım sohbetlerde nanoteknolojinin işe bile yaramayabileceğine ikna edildim - ya da en azından yakın bir zamanda işe yaramaya başlamayacağına. colorado'ya, kurduğum bir skunk works'te (6) çalışmak için taşınmamdan kısa bir süre sonra işimin odağı internet için hazırlanan yazılımlara kaydı; özellikle de sonradan java ve jini adını alacak fikirlere.

daha sonra ,geçtiğimiz yaz, brosky hasslacher bana nano boyutta moleküler elektroniğin artık kullanılabilir olduğunu söyledi. bu haberler yeniydi (en azından benim ve sanırım pek çok insan için) ve nanoteknoloji hakkındaki fikirlerimi radikal olarak değiştirdi. beni tekrar engines of creation'a gönderdi. drexler'ın kitabını 10 yıl sonra tekrar okuduğumda, kitabın uzun bölümü, nanoteknolojinin nasıl "yok etme makineleri"ne dönüşebileceğinin de tartışıldığı, "tehlikeler ve umutlar" hakkında ne kadar az şey hatırladığımı dehşetle fark ettim. bu uyarı niteliğindeki kitabı bugün tekrar okuduğumda drexler'in bazı emniyet tedbiri önerilerinin ne kadar toy kaldığını ve şimdi benim bile zamanında drexler'ın öngördüğü tehlikelerin daha büyük olduklarını yargılayabildiğimi gördüm (ki drexler'ın zamanında nanoteknolojinin pek çok teknik ve politik problemlerini önceden tahmin ve tarif ettiğini; bunun üzerine 1980'lerin sonlarında, en başta nanoteknoloji olmak üzere "ileri teknolojilere karşı toplumu hazırlamak amacıyla" foresight institute'ü kurduğunu göz önünde bulundurmak gerekli).

önümüzdeki 20 yıl içinde "birleştirici"lerin teknolojisini kullanıma açacak gelişmelerin olması gayet olası görünüyor. bu noktada moleküler elektronik (moleküllerin devrelerin görevini gördükleri, nanoteknolojinin yeni alt sahası) on yıl içinde oldukça hızlı bir şekilde gelişerek inanılmaz derecede karlı olacak ve nanoteknoloji sahasına giderek artan bir yatırım alacaktır.

ne yazık ki, tıpkı nükleer teknolojide olduğu gibi, nanoteknoloji için yıkıcı kullanım metodları uygulamak, yapıcı metodlardan çok daha kolay. nanoteknolojinin çok net askeri ve terörizm amaçlı kullanımları bulunmakta ve bunları kullanmak için intihar saldırılarına gerek yok: örneğin bu tarz cihazlar seçici yok etme amacıyla belirli bir coğrafi alanı yıkmak ya da genetik açıdan farklı olan bir grup insanı yok etmek için kullanılabilir.

bu faustumsu alış veriş sonucunda hemen ardından ortaya çıkabilecek ölümcül riske sahip sonuçlardan birisi de, bütün yaşamın bel bağladığı biyosferi yok etme ihtimalimiz.

drexler'ın da açıkladığı gibi:

"günümüzde kullanılan güneş pilleri kadar etkin olan 'yaprak'lara sahip 'bitkiler', gerçek bitkilere üstün gelebilir ve biyosferimizi gıda olarak tüketilemeyecek bir yeşil örtüyle sarabilir. sağlam omnivor bakteriler, gerçek bakterilere üstün gelebilir ve uçuşan polenler gibi yayılabilir, hızla çoğalabilir ve biyosferimizi günleri içinde toza dönüştürebilirler. tehlikeli çoğaltıcılar son derecede rahat bir şekilde çok sağlam, küçük ve durdurulabilmek için çok hızla yayılıyor olabilirler; en azından bir hazırlık yapmazsak. virüsleri ve meyve sineklerini kontrol altında tutabilmek bile bizim için yeteri derecede sorun teşkil ediyor."

"nanoteknoloji ehilleri arasında, bu tehlike grey goo problem(gri yapışkan madde problemi) olarak biliniyor. her ne kadar kontrolsüz çoğaltıcılar gri ya da yapışkan olmak zorunda olmasalar da, 'gri yapışkan madde' terimi, çoğaltıcıların yalnızca bir tür yaban otunun neslini tüketmekten öteye gideceğini tanımlar. evrimsel anlamda üstün olsalar da, bu onları değerli kılmak zorunda değildir. "

gri yapışkan madde tehlikesi bir şeyi çok açıkça ortaya koyar: çoğalabilen birleştiricilerde belirli tipte kazaların olmasını göze alamayız.

gri yapışkan geçekten dünyadaki insan macerasını bitirmek için, ateşe ve buza nazaran, son derecede can sıkıcı bir yol en basit laboratuvar kazasından kaynaklanabilir (7). eyvah.

bizim bu konuda durup bir düşünmemizi gerektiren en önemli etken; genetik teknolojisi, nanoteknoloji ve robot teknolojisindeki (gnr) yok edici kendini-kopyalama sürecidir. genetik mühendisliğinin işleyiş süreci, hücrenin düzeneğini kullanarak tasarımlarını kopyalama üzerinedir ve nanoteknolojinin altında yatan asıl gri yapışkan tehlike içeriği de buradan kaynaklanmaktadır. borglar gibi kontrolden çıkmış, çoğalan ya da yaratıcıları tarafından onlara atanmış olan etik bağları kopartmak amacıyla mutasyon geçiren robotlar, bilim-kurgu kitaplarında ve filmlerinde oldukça yer edinmişlerdir. hatta kendi kendini kopyalama düşündüğümüzden daha da esaslı, ve haliyle kontrolü daha zor (belki imkansız) olabilir. stuart kauffman, nature dergisinde çıkan "self-replication: even peptides do it" (kendi kendini kopyalama: peptitler bile bunu yapıyor) isimli köşe yazısında 32 amino asite sahip bir peptit'in "kendi sentezini otokatalize ettiğini" tartışıyor. bu kabiliyetin ne kadar yaygın olduğunu henüz bilmiyoruz, fakat kauffman bunun "kendi kendini kopyalayan moleküler sistemlerde watson-crick baz eşleşmesinden çok daha geniş kapsamlı bir yol"a işaret ettiğini belirtiyor. (8)

işin doğrusu, gnr'nin doğasında var olan, yaygın olarak bilinmesiyle gelen tehlike sinyallerini yıllardır alıyoruz: bilgiye sahip olma olasılığı bile kitle imhaya yeterli olabilir. ama bu uyarılar ve tehlike sinyalleri geniş olarak halka duyurulmadı; halka açık tartışmalar bariz bir şekilde yetersiz kaldılar. tehlikeleri halka açıklamakta herhangi bir kar bulunmamakta.

nükleer, biyolojik ve kimyasal (nbk) olarak ayrılabilecek 20. yüzyıl'a ait kitle imha silahları ağırlıklı olarak hükumetlerin laboratuvarlarında geliştirilen askeri silahlardı. bu duruma zıt olarak 21. yüzyıl gnr teknolojilerinin çok net bir şekilde ticari kullanımları bulunmakta ve neredeyse tamamıyla özel kurumsal girişimciler tarafından geliştirilmekteler. bu muzaffer ticari anlayış dahilinde, cariyesi bilim olan teknoloji, daha önce görülmemiş olağanüstü karlarla, neredeyse sihirli sayılabilecek bir dizi icatlar yapmakta. ve biz son derece saldırgan bir şekilde bu yeni teknolojilerin vaatlerini, zamanımızın yegane fatihi olan küresel kapitalizm sistemi ve onun düzeneği olan finansal teşviklerle rekabete dayalı baskıları dahilinde takip ediyoruz.

"içinde bulunduğumuz zaman, gezegenimiz tarihinde kendisine ve çok geniş bir sayıda varlığa karşı kendi istençli eylemleriyle bir tehdit haline gelmiş ilk türü barındıran zaman. "

"bu, pek çok dünyada benzer bir gelişim süreci olabilir; yeni oluşmuş bir gezegen düşünün, yıldızı etrafında uysalca dönerken üzerinde yavaşça yaşam oluşur, sürekli değişen bir dizi varlık evrim geçirirler ve arkasından zeka ortaya çıkar. varlıklar en azından bir noktaya kadar muazzam bir hayatta kalma hissiyle hareket ederler, ve daha sonra teknoloji icat edilir. fark ederler ki doğanın bir takım kuralları bulunmakta, bu kurallar deneyler vasıtasıyla açığa çıkartılabilirler ve kuralların sonucu olan bilgiler hayatları kurtarmak ve almak için, benzersiz ölçülerde kullanılabilirler. bilimin onlara sınırsız güç verdiğini anlarlar. göz açıp kapayıncaya kadar gezegeni değiştirebilen mekanizmalar kurarlar. bazı gezegenlerdeki uygarlıklar bu yoldan sağ sağlim çıkarlar, neyin yapılabileceğine ve neyin yapılmaması gerektiğine sınırlar koyarak tehlikeler zamanından güvenle geçerler. bu kadar şanslı ya da akıllı olmayan diğerleri, helak olurlar."

bu alıntı carl sagan'ın 1994 tarihli pale blue dot (soluk mavi nokta) isimli, insanlığın ona göre uzaydaki geleceğini anlattığı kitabından. öngörüsünün ne kadar derin olduğunu ve sesini ne kadar özlediğimi ve özleyeceğimi ancak şimdi anlıyorum. tüm o etkili konuşma sanatına rağmen, sagan'ın katkısı basit bir sağduyudan öteydi; bu öyle bir özellik ki (alçakgönüllülükle birlikte) pek çok 21. yüzyıl teknolojisi savunucularının sahip olmadığı bir şey.

çocukluğumdan hatırladığım kadarıyla büyük annem antibiyotiklerin aşırı kullanımına karşıydı. birinci dünya savaşı'ndan bu yana bir hemşire olarak çalışmıştı ve gerçekten ihtiyaç olmadıkça antibiyotik kullanmanın vücuda kötü geldiğine dair bir sağduyusu vardı.

ilerlemenin düşmanı falan olduğundan böyle düşünmüyordu. 70 yıllık hemşirelik kariyerinde pek çok ilerlemeye tanık oldu. şeker hastası olan büyük babam, yaşamı boyunca gittikçe gelişen tedavilerden yararlanmıştı. ama büyük annem, pek çok aklı başında kimse gibi, henüz nispeten basit şeyleri çalıştırmak ve idare etmeyi bırakın, anlamakta bile güçlük çeken bizim, robotik bir "yedek tür" tasarlamamızı büyük ihtimalle kibirlilik olarak tanımlardı.

şimdi anlıyorum ki büyük annemin yaşamın düzenine, bu düzene uygun bir şekilde yaşamaya ve saygı duymaya karşı bir farkındalığı vardı. bu saygıyla birlikte gelen alçak gönüllülükten 21. yüzyıl küstahlığımız sayesinde, kendimizi riske atarcasına yoksunuz. bu şekilde ele alındığında sağduyulu görüş, bilimsel kanıta oranla genel olarak daha doğrudur. insan yapımı sistemlerin açıkça kırılgan ve etkisiz olmaları hepimizin bir durup düşünmesini sağlamalıdır; şahsen üzerinde çalışmış olduğum sistemler gerçekten benim alçak gönüllü olmamı sağlıyor.

silahlanma yarışına neden olan ilk atom bombasının yapımından bir ders çıkartmalıydık. o zamanlar hiç iyi şeyler yapmadık ve o dönemin şu ana benzerlikleri endişe verici.

ilk atom bombasını üretme çabalarının başı, parlak fizikçi j. robert oppenheimer tarafından çekiliyordu. oppenheimer çok da politikayla ilgili değildi, fakat üçüncü reich'ın nükleer silahlara sahip olmasından şüphelendiğinden batı medeniyeti adına korkuyordu. bu endişesinin verdiğin güçle büyük zekasını, fizik için olan tutkusunu ve karizmatik liderlik yetilerini los alamos'ta devreye soktu ve çabucak başarılı bir efor sergileyerek, inanılmayacak kadar büyük zekalardan oluşan bir ekiple bombayı icat etti.

gerçekte çarpıcı olan şey, olayları tetikleyen güç ortadan kalktığında bu eforun son derecede doğal bir şeymiş gibi devam etmesiydi. 2. dünya savaşı'nın kazanılmasının ardından kutlanan zafer günü'nden bir kaç gün sonra düzenlenen bir toplantıda bazı fizikçiler araştırmalarının belki de artık durması gerektiğini söylerken, oppenheimer devam etmek adına tartıştı. sunduğu neden ise biraz tuhaf: japonya'dan gelecek bir işgal sonucu doğacak ağır zaiyattan değil, kısa süre sonra kurulacak olan birleşmiş milletler'in atomik silah önbilgisine sahip olmasından korkuyordu. projenin devam etmesini sağlayan daha yüksek ihtimali olan diğer bir neden de, projenin kazandığı ivmeydi; trinity, ilk atom bombası testi artık çok yaklaşmıştı.

fizikçiler bu ilk atom bombası testine, bilinen pek çok mümkün tehlike olmasına rağmen, devam etme kararı aldılar. ilk başta endişelilerdi, çünkü edward teller'ın yaptığı hesaplara göre atomik bir patlama atmosferi ateşe verebilirdi. tekrar gözden geçirilen hesaplamalar, dünyayı yok etme tehlikesini bir milyonda üçe indirdi. (teller daha sonra atmosferin alev alması ihtimalininden tamamen vazgeçtiğini söylemişti.) gerçi oppenheimer yine de yeteri kadar endişelenmişti ki bunun sonucunda new mexico eyaletinin güneybatı kısmını trinity'ye karşı olası bir tahliye ayarladı. ve tabii ki bir de ortada bariz bir şekilde nükleer silahlanma yarışı riski vardı.

başarılı geçen bu testin ardından bir ay içinde iki atom bombası hiroshima ve nagasaki'yi yerle bir etti. her ne kadar bazı bilim insanları bombaların japon şehirlerinin üzerine bırakılmasından çok, silahlanma sürecini kontrol altında tutabileceğini söyleyerek yalnızca gösteri yapılması konusunda diretmiş olsa da bu fikirler dinlenmedi. amerikalılar'ın kafalarında pearl harbor trajedisi hala canlıyken, başkan truman'ın atom bombasıyla yalnızca bir gösteri yapması, onları kullanmasından çok daha zor olacaktı; herhangi bir japon istilasında kaybedilebilecek hayatları kurtarma hevesi ve savaşı çabucak bitirme isteği son derecede güçlüydü. ancak ağır basan gerçek büyük ihtimalle sonr decede basitti: fizikçi freeman dyson'un da sonraları söylediği gibi, "bombanın atılmış olmasının nedeni hiçkimsenin hayır diyebilecek cesarete ve öngörüye sahip olmamasıydı."

bilim insanlarının 6 ağustos 1945'te hiroshima'ya atılan bombanın kötü sonuçlarına karşı ne kadar şoka uğradıklarını fark etmek çok önemlidir. bir dizi duygu tarif ederler: önce bombanın işe yaramasından ötürü hissedilen tatmin, sonra ölen onca insan yüzünden hissedilen dehşet ve sonrasında başka herhangi bir bombanın kesinlikle atılmaması gerektiği yönünde bir düşünce. ancak tabii ki hiroshima'nın bombalanmasından üç gün sonra bir bomba daha nagasaki'ye atılmıştı.

atom bombalarının atılmasından üç ay sonra, kasım 1945'te, oppehneimer bilimsel tavrın arkasında sağlam bir şekilde durdu ve "eğer dünyanın bilgisine ve bu bilginin verdiği gücün insanlık adına asıl olan şey olduğunu düşünmüyorsanız ve bunu bilgiyi yaymak için kullanıp sonuçlarına katlanmayı reddediyorsanız bir bilim insanı olamazsınız." dedi.

oppenheimer çalışmalarına acheson-lilienthal raporu'nu hazırlayarak başkalarıyla birlikte devam etti. richard rhodes'un da yakın zamanda yayınlanan kitabı "visions of technology"'de de (teknoloji öngörüleri) belirttiği gibi, oppenheimer "silahlanmış bir hükümete gerek kalmadan el altından yapılacak bir nükleer silahlanma yarışını engelleyecek bir yol bulmuştu." raporda milletlere dayalı devletler nükleer silah çalışmalarından feragat edeceklerdi ve bunu uluslararası bir örgüt üstlenecekti.

bu önerge, 1946'da birleşmiş milletler'in dikkatine sunulmasına rağmen uygulanmaya hiç konmayan baruch planı'na yol açtı (rhodes'un da önerdiği gibi her ne kadar "stalinist rusya tarafından yine de reddedileceğinin neredeyse kesin olması"yla birlikte, belki de bernard baruch'un "planın geleneksel yaptırımlarla ağırlaştırılması konusunda ısrarı", kaçınılmaz olarak planın sonunu getirmişti.) bir silahlanma yarışını engellemek için atılan diğer tüm mantıklı adımlar ya abd politikaları, ya iç güvensizlik ya da sovyetler'in diğer ülkelere karşı güvensiz olması nedeniyle boşa atıldı. bir silahlanma yarışının engellenebilme şansı büyük bir hızla yok olmuştu.

iki yıl sonra 1948'de oppenheimer düşünüş tarzında yeni bir evreye girmiş gibi görünüyordu ve "kaba bir mantık çerçevesinde hiçbir adiliğin, hiçbir mizahın, hiçbir abartının dindiremeyeceği bir şekilde fizikçiler günahı öğrendiler; ve bu kaybetmeyi göze alamayacakları bir bilgidir." diyordu.

1949 yılında, sovyetler bir atom bombası patlattı. 1955'te hem abd, hem de sscb uçakla taşınabilecek hidrojen bombaları test etmeye başlamışlardı. böylece nükleer silahlanma yarışı başlamıştı.

yaklaşık 20 yıl sonra, the day after trinity (trinity'den sonraki gün) adlı belgeselde freeman dyson nükleer uçurumun dibine getiren bilimsel tavırları özetliyordu:

"bunu ben de hissetmiştim. nükleer silahların ışıltısını. eğer onlara bir bilim insanı olarak yaklaşırsanız karşı konulamazdırlar. onu ellerinizin içinde hissetmek, bu yıldızlara yakıt sağlayan enerjiyi serbest bırakmak, o enerjiye istediğiniz şeyi yaptırtmak... mucizeler gerçekleştirmek, gökyüzüne doğru bir milyon ton taşı kaldırmak... bu insanlara sınırsız güç illüzyonu sağlayan bir şeydir, ve pek çok açıdan bütün dertlerimizden sorumludur: buna teknik kibir diyebilirsiniz; o ki insanları, zekalarıyla yapabileceklerini fark ettiklerinde zayıf düşüren şeydir." (9)

bugün de o zaman olduğu gibi (bu kez çok büyük finansal ödüllerle ve küresel rekabetle), bariz tehlikelere, yarattığımız ve hayal ettiğimiz şeylerin gerçekçi bir şekilde değerlendirmesini yapmamamıza rağmen yeni teknolojilerin ve hayal edilen bir gelecekte yıldızların yaratıcılarıyız.

1947'de the bulletin of the atomic scientists (atomik biliminsanları bülteni) dergisi, kapağına doomsday clock (kıyamet saati) adını verdiği bir sanal saat yerleştirmeye başladı. 50 yılı aşkın bir süre boyunca göreceli nükleer tehlikeye ne kadar yaklaştığımızı tahmini olarak gösteren, uluslararası durumların değişmesini aktaran sembolik bir görev yaptı. saatin kolları günde 15 kez hareket eder ve bugün bile gece yarısına 9 kalayı göstererek, nükleer silahların sergilediği daimi tehditi işaret eder. pakistan ve hindistan'ın da nükleer güçlerin arasına girmiş olması nükleer silahsızlanma hedefinin başarısızlığa uğraması riskini arttırmıştı ve bu tehlike 1998'de saatin akrebini ve yelkovanını birbirine yaklaştırmıştı.

yaşadığımız zaman diliminde ne kadar tehlike altındayız? yalnızca nükleer silahlardan değil, bütün bu teknolojilerden de. neslimizin tükenme riski ne kadar yüksetir?

filozof john leslie bu soruyu araştırdı ve insanlığın yok olma riskinin yüzde otuz olduğunu hesapladı (10). ray kurzweil ise hep bir optimist olmakla suçlandığını belirterek "yaşamak için eşit şansımız var" diyor. bu tahminler cesaret kırıcı olmakla birlikte, toplu yok olmadan çok da uzak olamayan pek çok korkunç sonu kapsamamaktalar.

bu tipte değerlendirmelerle yüz yüze gelindiğinde pek çok ciddi kimse dünya'yı elimizden geldiğince hızlıca terk etmemizi önermekteler. yıldız sisteminden diğerine atlayacak, ilerledikçe kendilerini kopyalayan von neumann sondalarıyla galaksinin farklı yerlerinde kolonileşebiliriz.bu adım yaklaşık 5 milyar yıl sonra (eğer güneş sistemimiz önümüzdeki 3 milyar yıl içinde beklendiği gibi feci bir şekilde andromeda galaksisinden bir sistemle çarpışmazsa) neredeyse kesinlikle bir gereksinim olacak, ancak kurzweil'in ve moravec'in sözlerini dikkate alırsak bu yüzyılın ortasında bu gereksinim zaten doğacak.

buradaki ahlaki çıkarım nedir? eğer bu türün hayatta kalması için dünya'nın ötesine hızlıca ilerlemek zorundaysak, arkada kalanların (ki bu büyük bir çoğunluğumuz olacak) kaderlerinden kim sorumlu olacak? ve şayet yıldızlara dağılsak bile sorunlarımızı da yanımızda götürmeyecek miyiz, ya da daha sonra bu sorunların bizi takip ettiğini farketmeyecek miyiz? türümüzün dünya'daki kaderi ile galaksideki kaderi ayrılmaz bir şekilde birbirine bağlıdır.

diğer bir fikir ise tehlikeli teknolojilere karşı koruyacak bir dizi kalkanlar yapmaktır. reagan hükümeti tarafından sunulan the strategic defense initiative (stratejik savunma insiyatifi), tam da bu amaç için yapılandırılması planlanan, zamanının sovyetler birliği'nden gelecek olan nükleer saldırıya karşı hazırlanma amacı taşıyordu. ancak proje konusundaki tartışmalara katılan arthur c. clarke şöyle söylüyordu: "her ne kadar gelecek balistik füzelerin 'sadece' yüzde birkaçına izin verecek bir savunma sistemi devasa harcamalarla mümkün gibi görünse de, o ağızlara sakız olan ulusal bir şemsiye tam anlamıyla bir zırvalıktı. büyük ihtimalle yüzyılımızın en büyük deneysel fizikçisi olan louis alvarez bana bu tipte tasarıların avukatlarının 'hiç sağduyusu olmayan parlak elemanlar' olduğunu ima etti."

"çoğunlukla sisli olan kristal küreme baktıkça toplu bir savunmaya bir yüzyıl ya da ona yakın bir zamanda ihtiyacımız olabileceğini düşünüyorum. ama bununla ilgili olarak geliştirilecek teknoloji yan ürün olarak o denli korkunç silahlar yaratacaktır ki, hiç kimse ilkel balistik füzelerle uğraşmaya zahmet etmeyecektir." (11)

engines of creation'da (yaratılış motorları) eric drexler, laboratuvar ortamından kaçabilecek tehlikeli ya da kötücül amaçlarla üretilmiş çoğaltıcılara karşı koruması amacıyla aktif nanoteknolojik bir kalkan (biyosferimiz için bir tür bağışıklık sistemi) inşa etmemizi önerir. ama önerdiği kalkan da aşırı derecede tehlikelidir; hiçbir şey bu sistemin otoimmün sorunlarıyla karşı karşıya gelmeyip biyosferi kendisinin yok etmeyeceğini garantileyemez. (12)

benzer zorluklar robot teknolojisine ve genetik mühendisliğe karşı kalkanlar yapılmasında da ortaya çıkıyor. sözü geçen teknolojiler, onlara karşı herhangi bir kalkan geliştirmek için fazlasıyla güçlüler ve zaman dilimi açısından düşünüldüğünde çıkarlarımıza ters düşmekte; eğer bu tip teknolojilere karşı bir tür savunma kalkanı geliştirebiliyor olsaydık bile bu savunmaların gelişim süreçlerinin yan etkileri, bizi korumaları için yaratıldıkları teknolojiler kadar tehlikeli olurdu.

bu yüzden bu ihtimallerin her biri ya istenmeyen, ya başarılamaz, ya da her ikisi birden olacaktır. bu konuda gördüğüm tek alternatif vazgeçmektir: belirli tipteki bilgilerin kovalanması limitlenerek çok tehlikeli olan teknolojilerin gelişim süreçlerine bir sınır getirmektir.

evet, biliyorum, bilgi iyidir, aynı şekilde yeni gerçekleri araştırmak da iyidir. antik dönemlerden beri bilginin peşindeyiz. aristoteles, metafiziğini şu basit açıklamayla başlattı: "her adam, doğası gereği bilmek ister." toplumumuzun bir temel ilkesi olarak uzun süre önce bilgiye açık erişimin olması üzerinde anlaştık ve bilgiye erişimle bilginin gelişimini kısıtlamaya çalışmaktan doğan problemleri tanıdık. kısa süre önce bilimsel bilgiye büyük saygı duymaya başladık.

yine de tarihi örneklere rağmen eğer açık erişim ve bilginin sınırsız geliştirilmesi hepimizi açıkça yokoluş tehlikesine sokuyorsa, bu durumda sağduyu bu tip uzun süredir uygulanan ve en temel inanışları bile tekrar gözden geçirmemizi talep eder.

19. yüzyılın sonunda bizi uyaran nietzsche, yalnızca tanrı'nın öldüğünü değil; "inkar edilemez bir şekilde ortada olan bilime duyulan inanç, kökenini bir faydalılık hesabına dayandıramaz; bu kavram, 'gerçeğe irade', 'bedeli her ne olursa olsun gerçek' gibi kavramların da sürekli olarak kanıtladığı gibi, bu kavramların kullanışsızlığı ve tehlikeliliğine rağmen ortaya çıkmıştır." işte tam olarak da şu anda yüzleştiğimiz tehlike budur: doğruyu aramamızın sonuçları.

eğer bir tür olarak nereye gittiğimiz ve neden geleceğimizin daha az tehlikeli yapılması gerektiği konusunda anlaşabilseydik, o zaman neden feragat ettiğimizi anlayabilirdik. aksi halde tıpkı 20. yüzyıl'da nbk ile yapılan silahlanma yarışını aynen gnr'de yaşarız. bu sanırım en büyük risktir ve bunu engellemek oldukça zor olacaktır. manhattan projesi'nin yapıldığı zamandaki gibi karşımızda medeniyetimizi sona erdirebilecek bir düşman yok ve savaşta değiliz. bunun yerine bu kez alışkanlıklarımız, arzularımız, ekonomik sistemimiz ve bilme isteğimizin rekabetçiliği bizi yönlendiriyor.

inanıyorum ki yönümüzün müşterek değerlerimize, etiklerimize ve maneviyatımıza göre belirlenmesini isteriz. son bir kaç bin yılda müşterek bir akla sahip olmuşsak, bu yönde bir diyalog daha pratik olacaktır ve serbest bırakmak üzere olduğumuz inanılmaz güçler bizi şimdiki kadar rahatsız etmeyecektir.

kendimizi koruma güdüsüyle bu tarz bir diyaloğa yöneleceğimizi düşünüyor olabilirsiniz. kişiler açıkça böyle bir hisse sahiptirler, ama yine de bir tür olarak hareketlerimiz bizim lehimize değil. nükleer tehlike ile başa çıkarken pek çok kez kendimizi kandırdık ve sonuç olarak riskleri çok büyük oranda arttırdık. bilemiyorum belki bu durum politik nedenli ya da geleceği düşünemediğimiz için veya bu denli ciddi bir tehlikeleyle karşılaştığımızda korkudan dolayı mantıksızca davranmamızdan kaynaklanıyor olabilir, ama bu hiç de iyiye alamet değil.

pandora'nın yeni kutuları genetik teknolojisi, nanoteknoloji ve robot teknolojisi neredeyse açılmak üzereler ve biz bunun farkında bile değiliz. fikirleri, plütonyum ve uranyum gibi çıktıkları kutuya geri koyamazsınız. fikirler maden gibi kazılmaya, işlenmeye ihtiyacı yoktur ve rahatlıkla kopyalanabilirler. bir kere ortaya çıktıklarında artık ortadadırlar. churchill'in hiç samimi olmayan ünlü iltifatında belirttiği gibi "amerikan halkı ve liderleri her zaman doğru şeyi yaparlar, ama önce her türlü alternatifi gözden geçirirler." oysaki bu kez daha öngörülü davranmalıyız; lakin bu kez doğru olan şeyi en son yapmak, doğru olan şeyi yapmamızı tamamıyla engelleyebilir.

thoreau'nun da söylediği gibi; "biz bir demiryolunda ilerlemiyoruz, o bizim omuzlarımızda ilerliyor," ve bu da tam olarak bizim zamanımızda çarpışmamız gereken şeydir. asıl soru hangimizin efendi, hangimizin köle olacağıdır. kendi teknolojilerimizden sağ kurtulabilecek miyiz?

şu anda plansız, kontrolsüz ve frensiz bir şekilde bu yeni yüzyıla doğru itiliyoruz. rotamızı değiştirebilmek için bu yolda gereğinden çok mu fazla ilerledik? böyle olduğuna inanmıyorum, ancak henüz bu konuda çabalamıyoruz ve kontrolü ele geçirebilmek için son şansımız, o arızaya karşı emniyetli olan son nokta, hızla yaklaşıyor. artık ilk evcil robotlarımıza sahibiz, ticari genetik mühendislik erişimimiz var ve nanoboyut teknikleri hızla gelişiyor. bu teknolojilerin geliştirilmesi her ne kadar bir dizi adımlarla gerçekleşse ve bir teknolojiyi ortaya koymanın son adımı son derecede geniş ve zor olsa da, bu durum her zaman geçerli olmayabiliyor - tıpkı manhattan projesi ve trinity testinde olduğu gibi. vahşice kendini kopyalayan robotlar, genetik mühendisliği ve nanoteknoloji bir anda ortaya çıkıp bizi bir memelinin klonlandığını öğrendiğimiz zaman yaşadığımız sürprizi tekrar yaşatabilir.

yine de ben umut için güçlü ve sağlam bir temelimiz olduğuna inanıyorum. kitlesel imha silahlarına karşı son yüzyılda veriğimiz uğraş, örneğin abd'nin önkoşulsuz bir şekilde tek taraflı olarak biyolojik silah geliştirilmesini terk etmesi, feragat etme hissimizin parlak bir örneğidir. bahsettiğim feragat, bu korkunç silahları üretmek için muazzam bir çaba sarfedilmesi gerektiğinin anlaşılması ve bu aşamadan sonra rahatlıkla çoğaltılıp yanlış ülkelerin ya da terörist grupların eline geçebileceğinin fark edilmesi sayesinde olmuştur.

net bir şekilde gözler önünde olan sonuç, bu tarz silahların geliştirilmesinin takibinin ek tehditler oluşturacağı ve bu durumda bu takibi bırakmamızın daha güvenli olacağıydı. biyolojik ve kimyasal silahlardan feragatimizi 1972 biyolojik silahlar konvansiyonu (bwc) ve 1993 kimyasal silah konvansiyonu (cwc) ile gerçekleştirdik. (13)

50 yıldan uzun bir süreden beri birlikte yaşadığımız nükleer silahların devam eden büyük tehlikesi konusunda ise abd senatosu'nun comprehensive test ban treaty'yi(anlaşılabilir test yasağı antlaşması) kısa süre önce reddetmesi, nükleer silahlardan kurtulmamızın politik açıdan bu kadar da kolay olmayacağını açıkça göstermiştir. ancak soğuk savaş'ın bitimiyle birlikte çok merkezli bir silahlanma yarışını engellemek için eşsiz bir şansa sahip olduk. bwc ve cwc'ye dayanarak yapılan feragatlar, nükleer silahların başarılı bir şekilde feshedilmeleri, bizim tehlikeli teknolojileri takip huyumuzdan vazgeçmemize yardımcı olabilirler. (aslına bakarsanız dünya çapında 100 kadar silah haricinde [aşağı yukarı toplamda 2. dünya savaşı'nın yıkıcı gücüne denk geliyor] tüm nükleer silahlardan arınabilirsek, bu yokoluş tehdinin de üstesinden gelmiş oluruz. (14)

feragat etmeyi gerçekleştirmek zor bir problem olabilir, ancak çözülemeyecek bir problem değildir. bwc ve diğer antlaşmaların bağlamında, pek çok ilgili iş yapılmış olmasından dolayı oldukça şanslıyız. bu süreçte ana görevimiz, bu yaptırımların askeri olmaktan çok ticari olan teknolojilere uygulanması olacaktır. buradaki somut ihtiyaç şeffaflıktır, çünkü kanıtlamanın zorluğu, yasal aktiviteleri başkasına bırakmayı ayırt etmenin zorluğu ile direkt olarak orantılıdır.

açıkçası 1945'teki durumun şu anda karşı karşıya olduğumuz durumdan daha basit olduğunu düşünüyorum; nükleer teknolojiler makul bir şekilde ticari ve askeri kullanım olarak ayırt edilebiliyordu ve gözetimi atomik testlerin doğası nedeniyle radyoaktivite ölçümlerine istinaden rahatlıkla yapılabiliyordu. askeri uygulamalar, los alamos gibi ulusal laboratuvarlarda sonuçları mümkün olduğu kadar uzun süre saklanarak yapılabiliyordu.

gnr teknolojilerinde bariz bir şekilde askeri ve ticari ayrımı yapamıyoruz; piyasadaki potansiyellerini göz önünde bulundurursak, bunları yalnızca ulusal laboratuvarlarda takip etmek oldukça zor olacaktır. bu teknolojilerin piyasalardaki yaygın ticari takibi sayesinde feragat edilmelerini dayatmak, biyolojik silahlara benzer, fakat daha önce görülmemiş boyutta bir kanıtlama rejimi gerektirecektir. kaçınılmaz olarak bu özel yaşamımız ile özel bilgiye erişim isteğimiz ve hepimizin korunması için tahkik etme ihtiyacı arasında gerginlikler doğuracaktır. şüphesiz ki böylesine bir mahremiyet ve hareket özgürlüğü kaybına karşı güçlü bir direniş olacaktır.

bazı gnr teknolojilerinden feragat edilmesinin kanıtlanması, fiziksel tesisler dışında siberuzayda da yer alması gerekecektir. asıl kritik olan konu, büyük ihtimalle fikir hakkı için yeni koruyucu biçimler oluşturarak özel bilgi dünyasında da kabul edilebilecek gerekli bir şeffaflık getirmektir.

kanıtlamaya riayet etmek, aynı zamanda bilim insanlarının ve mühendislerin hippokrat yeminine benzer güçlü bir takım etik davranış kanunlarına sahip olmasını ve zorunlu kaldıklarında yüksek kişisel bedel karşılığında bile olsa ispiyonculuk yapabilecek cesarete sahip olmasını gerektirecek. bu, hiroshima'dan 50 yıl sonra, nobel ödülü sahibi ve manhattan projesi'nin halen sağ olan en önde giden ekibinden hans bethe'nin, tüm bilim insanlarına yaptığı "nükleer silah ve diğer potansiyel kitlesel imha silahları yaratmayı derhal durdurmaları" çağrısına cevap verecektir (15). 21. yüzyılda bilginin getirdiği kitlesel imha ve kitlesel imha silahlarının uygulanmasından kaçınmak için hem nbk hem de gnr teknolojileri üzerinde çalışanların ihtiyat ve kişisel sorumluluk hissiyatı göstermesini gerekmektedir.

thoreau aynı zamanda "serbest bırakmaya gücümüzün yettiği şeylerin sayısına oranla zengin olacağımızı" da belirtmişti. hepimiz mutlu olmayı hedefleriz, fakat öyle görünüyor ki daha fazla bilgi ve daha fazla şey kazanmak için kökten yokoluş kadar büyük bir riske girmeyi sorgulamamız oldukça yerinde. sağduyu, maddesel ihtiyaçlarımızın bir sınırı olduğunu, belirli bilgilerin çok tehlikeli ve yapılacak en iyi şeyin bunlardan vazgeçmek olduğunu söylüyor

aynı zamanda ölümsüzlüğe yakınlığı da toplu yokoluş riskindeki oranlı artışı düşünmeden ve bedellerini hesaplamadan takip etmemeliyiz. ölümsüzlük orjinal olmasıyla birlikte tek mümkün ütopik rüya değildir.

kısa süre önce, lignes d'horizons isimli kitabıyla (ingilizce tercümesi millennium) yaklaşan ve gittikçe yayılan bilgisayar çağında java ve jini yaklaşımlarına ilham veren seçkin bir yazar ve bilgin olan jacques attali ile tanışma şansına sahip oldum. yeni kitabı fraternités'de attali, ütopyalar konusundaki rüyalarımızın nasıl değiştiğini anlatıyor:

"toplumların şafak çağında insanlar dünyadan geçişlerinin acıdan oluşan bir labirentten ibaret olduğuna, labirentin sonunda ölümleri aracılığıyla geçtikleri bir kapı olduğuna ve bu kapının tanrıların eşliğinde sonsuzluğa açıldığına inandılar. önceleri yahudiler, daha sonraları yunanlılar bazı insanlar kendilerini teolojik emirlerden kurtarmaya cesaret ettiler ve özgürlüğün gelişeceği ideal bir şehir hayal ettiler. diğerleri, toplumun evrimini göz önünde bulundurarak, özgürlüğün başkalarının yabancılaştırılması karşılığında geleceğini anladı ve eşitlik aramaya başladılar."

jacques, benim bu üç farklı ütopyanın nasıl zamanımız toplumunda gerginlikle yaşadığını anlamamı sağladı. kitabında, adına "birlik" dediği, başkalarının yararını da kendi yararı kadar gözetmeye dayalı dördüncü bir ütopyadan daha bahsediyor. birlik, tek başına bireysel mutluluğu ve diğerlerinin mutluluğunu kendi kendine yeterlilik sözüyle birleştiriyor.

bu, kurzweil'in rüyasıyla ilgili yaşadığım problemi açıklığa kavuşturdu. sonsuzluğa teknolojik açıdan bir yaklaşım (robot teknolojisi sayesinde ölümsüzlüğe yaklaşmak) belki de en cazip ütopya değildi ve takibi net tehlikeler getirmekteydi. belki de ütopya seçimlerimizi tekrar gözden geçirmemiz gerekiyordu.

rotamızı belirlemek için etik bir tabanı nerede arayabiliriz? dalai lama'nın ethics for the new millennium (yeni binyıl için etik) adlı kitabında bunun için çok yardımcı olabilecek fikirler buldum. büyük ihtimalle çok iyi bilinmesine rağmen çok az kulak asılan dalai lama'nın sözlerine göre, hayatımızı sevgi ve diğerleri için şefkatle yürütebilmek için toplumun yapması gereken daha güçlü bir evrensel sorumluluk ve dayanışma geliştirmektir. dalai lama, attali'nin birlik ütopyası ile uyumlu bir şekilde standart bir positif etik yürütme şekli önermekte.

dalai lama, insanları neyin mutlu ettiğini anlayıp, ne maddesel ilerlemenin ne de bilgi peşinde koşmanın anahtar olmadığının güçlü kanıtlarını kabul etmek gerektiğini, bilim ve bilimsel takibin tek başına yapabileceklerinin sınırlı olduğunu tartışarak kitaba devam ediyor.

bizim batılı mutluluk anlayışımız, mutluluğu "hayati güçlere mükemmeliyetçi bir çizgide yaşam boyu faaliyet alanı sağlanması" (16) olarak tanımlayan yunanlılardan geliyor gibi görünüyor.

açıkçası eğer yaşamda mutlu olmak istiyorsak, onu anlamlı kılabilecek mücadeleler ve yeterli kapsam bulmalıyız. ama ben şahsen sürekli olan bir ekonomik gelişimin kültürünün de ötesinde, yaratıcı güçlerimiz için alternatif çıkış noktaları bulmamız gerektiğine inanıyorum. bu büyüme son birkaç yüzyıldır genel olarak bir bereket olmuştur, ancak bize katıksız bir mutluluk getirmiş değildir; bilim ve teknoloji aracılığıyla kısıtsız ve güdümsüz bir büyüme takibi ve bununla birlikte gelen tehlikeler arasında bir seçim yapmalıyız.

john searle ve ray kurzweil ile olan karşılaşmamın üzerinden bir yıldan uzun bir süre geçti. dikkat ve feragat etmek adına yükselen sesler ve içinde bulunduğumuz çıkmaz konusunda en az benim kadar endişelenen insanlar keşfetmiş olmam sayesinde etrafımda umut ışığı görüyorum. şimdiye kadar yaptığım işler için olmasa da, bundan sonra yapabileceğim bilimlerin buluşma noktasındaki işler için ben de derinden gelen bir kişisel sorumluluk hissetmekteyim.

ancak bu tehlikelerin farkında olan pek çok kimse tuhaf bir şekilde sessiz. konu ile ilgili üstlerine gidildiğinde her seferinde sanki olabileceklerin farkındalığı yeterli bir cevapmış gibi "bu yeni bir şey değil" karşılığını yapıştırıyorlar. bana üniversitelerin bütün gün bunlar üzerinde çalışan biyoetikçilerle dolu olduğunu söylüyorlar. bana bunların hepsinin daha önce alanların uzmanları tarafından yazıldığından bahsediyorlar. bana endişelerimin ve savlarımın modasının geçtiğinden yakınıyorlar.

bu insanların korkularını nereye sakladıkları konusunda hiçbir fikrim yok. karmaşık sistemler tasarlayan birisi olarak bu alana genel kültürü kapsamlı bir kimse olarak katılıyorum. ama bu durum benim kaygılarımı azaltmalı mı? daha önce yazılanların, konuşulanların, otoriter bir şekilde hakkında ders verilenlerin farkındayım. ama bu durum halkın bundan haberi olduğunun bir göstergesi mi? bu durum önümüzdeki tehlikeleri dikkate almasak da olur anlamına mı geliyor?

bilmek, harekete geçmemek için bir gerekçe olamaz. bilginin kendimize karşı tuttuğumuz bir silah haline geldiğinden hiç şüphe edebilir miyiz?

atom bilimcilerinin deneyimleri bize açıkça kişisel sorumluluklar yüklenmemiz gerektiğini, herhangi bir sürecin kendi kendine bir yaşam elde edip işlerin çok hızlı ilerlemesi tehlikesine karşı hazırlıklı olmamız gerektiğini söylüyor. neredeyse bir solukta biz de tıpkı onlar gibi başa çıkılamayacak problemler yaratabiliriz. eğer biz de kendi buluşlarımızın sonuçları karşısında sürprize uğramak ve şoka girmek istemiyorsak, yapacaklarımızı önceden düşünmeliyiz.

benim halen devam eden profesyonel işim, yazılımların güvenilirliğini ve dayanıklılığını arttırmak. yazılım bir araçtır ve bir araç yapıcısı olarak, yaptığım araçların sürüldüğü işler konusunda mücadele etmek zorundayım. her zaman yazılımların daha güvenilir olmasını sağlamanın (kullanıldıkları pek çok alan olduğu göz önünde bulundurulursa), dünyayı daha iyi ve güvenli bir yer haline getireceğini düşündüm; eğer bunun zıttına inanıyor olsaydım, ahlaken yaptığım işi durdurmak mecburiyetinde kalırdım. artık böyle bir günün gelebileceğini sanıyorum.

tüm bunlar beni kızgın değil ama melankolik bir ruh haline sokuyor. bundan böyle benim için gelişim, oldukça buruk bir sevinç içinde gelecek.

manhattan filminde woody allen'ın kanepesinde yatarken bir kayıt cihazına konuştuğu sondan bir önceki sahneyi hatırlar mısınız? o sahnede woody allen çözülemeyecek, dehşet verici evrensel problemlerle uğraşmak zorunda kalmamak için kendilerine gereksiz ve nevrotik problemler yaratan kimseler hakkında kısa bir hikaye yazmaktadır.

kendisini şu soruya yöneltir, "hayat, yaşamaya neden değer?" ve sonra da hayatın neden kendisi için değerli olduğuna kanaat getirir: groucho marx, willi mays, jupiter symphony'nin ikinci bölümü, louis armstrong'un "potato head blues" şarkısı, isveç filmleri, flaubert'in sentimental education'ı (duygusal eğitim), marlon brando, frank sinatra, cézanne'dan elmalar ve armutlar, sam wo'nun pavuryaları ve son olarak sahnenin alkış anı: aşık olduğu tracy'nin sureti.

hepimizin kıymetli gördüğü şeyler var ve bunları önemsediğimiz sürece insanlığımızın özünü oturtabiliriz. en nihayetinde şu anda karşımızda olan tehlikeli konulara karşı iyimser yaklaşımımın nedeni, sevgi kapasitemizin büyük olmasıdır.

asıl umudum, bu köşe yazısında bahsettiğim konular hakkında, farklı temelden gelen, teknolojinin korkusuna ya da yanına meyil etmeyen kişilerle çok daha geniş bir tartışmaya katılmaktır.

başlangıç olarak bu konuların pek çoğunu aspen institute tarafından sponsor olunan etkinliklerde sundum ve ayrıca american academy of arts and sciences'ın (amerikan sanat ve bilim akademisi) aspen institute'u, pugwash conferences'la birlikte yaptıkları işin bir parçası olarak dahil etmesini teklif ettim. (sözü geçen konferanslar 1957'den beri, nükleer silahlanma başta olmak üzere silahlanma kontrolü ve bu konuda işleyebilecek prensip formülleri üzerinde çalışır.)

pugwash toplantılarının nükleer cinin şişesinden çıktıktan (yaklaşık 15 yıl) sonra başlamış olması üzücü. ayrıca 21. yüzyıl teknolojielerinin sorunlarına işaret etmekte de oldukça gecikmiş bir başlangıç yapıyoruz. bilginin getirdiği kitlesel imhanın engellenmesi konusunda daha fazla gecikme kabul edilemez.

bunun yüzünden hala bir arayış içindeyim; öğrenecek daha pek çok şey var. başarılı da olsak başarısız da, bu teknolojilerden sağ kurtulup kurtulmayacağımız henüz belirli değil. yine geç saatte ayaktayım, saat neredeyse sabahın 6'sı. daha iyi cevaplar hayal ederek büyüyü bozup, onları hapis kaldıkları taştan kurtarmaya çalışıyorum.

------------------------------------------------------------------------------------------------------------
bill joy, sun microsystems'ın kurucu ortağı ve başmühendisi, it araştırmasının geleceği başkanlık komisyonunun eski eşbaşkanı, java dili tanımlamasının ortak yazarı. yaygın jini bilgisayar teknolojisi üzerine çalışmaları wired 6.08'de yayımlanmıştır.

(1) kurzweil'in kitabında alıntı yaptığı metin, aslen kaczynski'nin unabomber manifestosu'ndan alıntıdır. bu manifesto aynı zamanda ortak olarak şantaja maruz kalan the new york times ve the washington post'ta da kaczynski'nin terör mücadelesini sona erdirmek amacıyla yayınlanmıştır. bu konuda gazetelerin verdiği karar hakkında şunları söyleyen david gelernter'e katılıyorum:

"bu, gazeteler için oldukça zor bir karardı. evet demek terörizme karşı pes etmek demekti ve adamın doğruyu söyleyip söylemediği bile belli değildi. diğer yandan evet demek de ölümleri sonlandırabilirdi. aynı zamanda da birisi broşürü okuyup yazarı hakkında bir fikire de sahip olabilirdi; ve zaten tam olarak da bu oldu. şüphelinin erkek kardeşi bunu okudu ve anladı.

kesinlikle onlara bu yazıyı basmamalarını söylerdim. iyi ki bana sormamışlar. galiba."
(drawing life: surviving the unabomber [hayatı çizmek: unabomber'dan sağ kurtuluş]. free press, 1997: 120.)

(2) garrrett, laurie. the coming plague: newly emerging diseases in a world out of balance (yaklaşan veba: dengesiz bir dünyada yeni çıkan bulaşıcı hastalıklar). penguin, 1994: 47-52, 414, 419, 452.

(3) isaac asimov, 1950'de yayınladığı kitabı i, robot'ta robot davranışlarının en ünlü etik kurallarının başına ne geldiğini anlatmıştı. robot teknolojisi'nin üç kanunu: 1. bir robot bir insana zarar veremez, ya da eylemsizlikle bir insanın zarar görmesine izin veremez. 2. bir robot, birinci kanun'la çatışmadığı sürece, insanların verdiği her emre uymak zorundadır. 3. bir robot, koruma alanı birinci ya da ikinci kural'la çatışmadığı sürece, kendi varlığını korumak zorundadır.

(4) michelangelo, şöyle başlayan bir sone yazmıştır:
non ha l' ottimo artista alcun concetto
ch' un marmo solo in sè non circonscriva
col suo soverchio; e solo a quello arriva
la man che ubbidisce all' intelleto.

stone, bunu şöyle çevirir:

sanatçılardan en iyisinin gösterecek fikri yoktur
kaba taşın içinde olduğu fazlalık kalıbı
kapsamaz, mermer büyüsünü bozmak için
elin hizmet ettiği beynin yapabileceği tek şeydir
(şiir çevirisinde başarısız olduğumu görebilirsiniz, ç.n.)

stone bu süreci şöyle tarif eder: "kil modellerden ya da çizimler üzerinden çalışmıyordu; hepsini bir kenara bırakmıştı. heykellerini zihnindeki görüntülerden çıkartıyordu. gözleri ve elleri her bir çizginin, eğrinin, kütlenin ortaya çıkması gerektiğini ve taşın kalbinde hangi derinlikte o narin rahatlamayı vereceğini biliyordu."
(the agony and the ecstasy. doubleday, 1961: 6,144.)

(5) first foresight conference on nanotechnology, ekim 1989, "the future of computation" (bilgisayımın geleceği) isimli bir konuşmadan. published in crandall, b. c. and james lewis, editors.nanotechnology: research and perspectives. mit press, 1992.

(6) (ç.n.) skunk works: bu kavram, mühendislik ve teknik alanlarda kullanılan, yüksek derecede otonomi tanınmış, bürokrasi tarafından yavaşlatılmayan ve gizli ya da gelişmiş işlerde çalışan bir grup ya da organizasyonu tanımlar.

(7) 1963 yayımlı romanı cat's cradle'da (kedinin beşiği) kurt vonnegut gri yapışkan madde tipi bir kazayı hayal etmişti. kitapta "ice-nine" adı verilen bir tür buz, çok daha yüksek derecelerde katıya dönüşerek bütün okyanusları donduruyordu.

(8) kauffman, stuart. "self-replication: even peptides do it." nature, 382, ağustos 8, 1996: 469.

(9) else, jon. the day after trinity: j. robert oppenheimer and the atomic bomb

(10) leslie'nin, şayet brandon carter'ın mahşer günü argümanını kabul edersek yokoluş ihtimalinin büyük ölçüde artacağını not ettiği kitabı the end of the world: the science and ethics of human extinction (dünyanın sonu: insan yokoluşunun bilimi ve etiği). brandon carter'ın argümanının söylediği şey ise basit olarak "dünyada yaşamış ilk insanlardan olduğumuza inanmak konusunda tereddüt etmemiz gerekir; örneğin dünya üzerinde yaşamış ve yaşayacak insanların en önceki yüzde 0,001'in içinde yer aldığımızı düşünmek gibi. bu galaksiyi kolonize etmeyi bırakın, insanoğlunun birkaç yüzyıl sonra ortadan yok olacağına dair bir düşünüşe nedendir. carter'ın mahşer günü argümanı kendi kendine herhangi bir risk tahmini oluşturmaz. bu argüman bizim pek çok mümkün tehlikeyi düşünerek oluşturduğumuz tahminleri tekrar gözden geçirmemizi söyler."
(routledge, 1996: 1, 3, 145.)

(11) clarke, arthur c. "presidents, experts, and asteroids" (başkanlar, uzmanlar ve asteroidler). science, 5 haziran 1998. "science and society" (bilim ve toplum) olarak greetings, carbon-based bipeds!: collected essays, 1934-1998 (merhaba, karbon kökenli ikiayaklılar!: deneme derlemeleri, 1934-1998) olarak tekrar basıldı. st. martin's press, 1999:526.

(12) ve david forrest'ın, tezi "regulating nanotechnology development"da (nanoteknoloji gelişimini düzenlemek, [atwww.foresight.org/nanorev/forrest1989.html atwww.foresight.org/nanorev/forrest1989.html] adresinden erişmek mümkün) belirttiği gibi "şayet düzenlemeye alternatif olarak katı bir sorumluluk politikası uygularsak, herhangi bir geliştiricinin riskin bedellerini (biyosferin yok olması) benimsemesini sağlayamayız. bu yüzden teorik olarak nanoteknolojinin geliştirilmesi aktivitesine kesinlikle girişilmemelidir." forrest'ın analizi bizi koruması için yalnızca hükümetin düzenlemeleriyle baş başa bırakıyor - ki bu da pek rahatlatıcı bir düşünce değil.

(13) meselson, matthew. "the problem of biological weapons" - (biyolojik silahlarla ilgili problem) amerikan bilim ve sanat akademisi'nin 1818. buluşmasındaki sunum, ocak 13, 1999. ([minerva.amacad.org/archive/bulletin4.htm minerva.amacad.org/archive/bulletin4.htm])

(14) doty, paul. "the forgotten menace: nuclear weapons stockpiles still represent the biggest threat to civilization." (unutulmuş tehdit: nükleer silah stokları medeniyet için halen en büyük tehlikeyi arz etmekte.) nature, 402, aralık 9, 1999: 583.

(15) ayrıca hans bethe'nin 1997 yılında başkan clinton'a yazdığı mektuba da göz atınız; [www.fas.org/bethecr.htm www.fas.org/bethecr.htm].

(16) hamilton, edith. the greek way (yunan yolu). w. w. norton & co., 1942: 35. r