हा एक वैचारिक प्रयोग आहे .
अगदी नजीकच्या काळात
तुम्ही चालकाविना चालणाऱ्या कारने प्रवास करणार
आणि तुमच्या आजूबाजूस अश्याच सर्व कार असतील .
अचानक एक मोठी अवजड वस्तू तुमच्या पुढ्यात पडते.
तुमच्या कारला पुरेसा वेळ मिळत नाही थांबविण्यासाठी .
निर्णय चटकन घ्यायचा असतो .
सरळ जाऊन त्यावर आदळावे ,
व डाव्या बाजूस वळावे
का उजव्या बाजूस मोटार सायकलकडे वळावे
मोटारसायकलवर आदळून तुम्ही सुरक्षित असाल
ते कमी नुकसानकारक आहे काय
पुढील मोठ्या वस्तूवर आदळण्याहून
किवा मधल्या ट्रकवर आदळावे,
ज्यामुळे तिच्यातील उतारूंना मोठी इजा होणार नाही.
मग ही स्वयंचलित गाडी कोणता निर्णय घेईल
जर आपण अशी गाडी MANUAL MODE मध्ये चालवीत असू
तर आपण कोणताही मार्ग स्वीकारला तर
ती एक प्रतिक्रिया असेल'
तो काही मुदामच घेतलेला निर्णय नसेल
आपण तो भयाने घेतलेला निर्णय असेल कोणाशी इजा करण्याचा हेतू त्यात नसतो.
पण जर प्रोग्रामरनेच तशी सूचना देऊन ठेवली असेल
याच स्थितीत तर --असे भविष्यात होऊ शकते
असे करणे आत्मघातकी आहे.
खरेतर,
या कारमुळे होणारे अपघात कमी होतील .
आणि मृत्यूही .
कारण त्यात मानवी चुका टाळता येतील .
याचे आणखी काही फायदे आहेत.
रस्त्यावरील गर्दी कमी होईल .
प्रदुषणास आळा बसेल.
चालकावरील ताण कमी होईल .
पण अपघात तरीही होतच राहतील.
आणि ते होतील तेव्हा
त्याचे दुष्परिणाम काही महिने व वर्षात निश्चित होतील.
त्यावर उपाय शोधतील प्रोग्रामर व धोरण ठरविणारे.
त्यांना काही कटू निर्णय घ्यायला लागतील.'
सर्वसामान्य निर्णय घेण्याचा कल असेल .
जसे कमीत कमी नुकसान.
पण त्यातही निर्णयाबाबत नैतिकतेचा मुद्दा उद्भवेल .
उदाहरणार्थ ,
पूर्वीच्या स्थितीचे पुन्हा अवलोकन करू
तुमच्या डाव्या बाजूस हेल्मेट घातलेला मोटारसायकल चालक आहे .
उजव्या बाजूस बिना हेल्मेटचा मोटारसायकल चालक आहे .
तुमची ही यांत्रिक कार कोणावर आदळेल ?
तुम्ही म्हणाल डाव्या बाजूकडील कारण तिने हेल्मेट घातल्याने बचावण्याची संधी आहे .
अश्या स्थितीत तुम्ही नियम पाळणाऱ्या व्यक्तीस धोक्यात टाकीत नाही काय ?
तुम्ही तर हेल्मेट नसलेल्याला संरक्षण देत आहात.
तो तर बेजबाबदार आहे .
पण तसे केले तर तुम्ही कमीतकमी नुकसानीच्या तत्वास हरताळ फासत आहात.
यांत्रिक कार आता रस्त्यावरील न्याय लागू करेल
या ठिकाणी निर्णय घेण्यात नैतिकतेचा मोठा मुद्दा आहे.
दोन्ही दृश्यात ,
यात दडलेला अल्गोरीदम कोणत्या प्रकारचा आहे त्यावर अंतिम निर्णय होईल.
दुसऱ्या शब्दात ,
हा पद्धतशीर फायद्याचा वा अन्यायाचा निर्णय असेल .
एखाद्या वस्तूवर आघात करण्याचा.
आणि त्या वस्तूच्या मालकावरही आघात करण्याचा .
त्यांना या अल्गोरीद्मचा नकारात्मक धोरणाने फटका बसेल.
त्यांचा काहीही दोष नसतांना.
नवतंत्रज्ञान असे अनेक नैतिक मुद्दे समोर ठेवीत आहे.
समजा , तुम्हाला निवड करावयाची आहे दोघातून
अश्या कारची जी अनेकांचे प्राण वाचवेल अपघात होताना.
की अशी जी कोणत्याही स्थितीत तुमचे प्राण वाचवेल
कोणती कार घ्याल ?
जेव्हा या कार ओळखतील व कार्यरत होतील
प्रवास करणाऱ्याचे जीवन त्याचे महत्व
आणि ते ध्यानी घेऊन एकदम निर्णय घेईल .
जो कमीत कमी नुकसानीच्या तत्वास दूर करून प्रवाश्याचा बचाव करेल'
हे सर्व निर्णय कोण घेणार ?
प्रोग्रामर ?
कार कंपन्या ?
सरकार ?
आपल्या विचारानुसार वास्तवता नसेलही.
पण तो काही मुद्दा नाही.
त्यांची रचना झाली असते आपल्या नैसर्गिक नैतिकतेवर व सहजप्रवृत्तीवर.
जसे वैज्ञानिक प्रयोग असतात भौतिक जगात
नैतिकतेचे हे दुहेरी स्वरूप
आपल्याला तंत्रज्ञानातील नैतिकतेच्या मार्गात मदत करेल .
आणि आपल्यास आत्मविश्वासाने व सदविचाराने मार्गस्थ करेल.
आपल्या धीरोदत्त जगात.