کامپيوتر و مسؤوليت اخلاقي(3)

پيشنهادهايي براي غلبه بر موانع
 

سه توصيه ي شايع در اين راستا وجود دارد.
الف. بايد مطمئن شويم که درک و تصور ما نسبت به مفهوم مسئوليت در قبال وظيفه اي که داريم صحيح و کامل است تا بدين وسيله با اجراي کامل وظايف باعث پيشرفت اين تکنولوژي گرديم؛ ب . لازم است در طراحي کامپيوتر ها بازنگري انجام شود تادر نتيجه، مسؤوليتي متوجه آنان نباشد،ج . لازم است که تمامي هنجارها و اصولي را که مرتبط با توليد، اجرا و استفاده ي از کامپيوترهاست به دقت تبيين نماييم.
الف- مطمئن شدن از اين که درک و تصور ما نسبت به مفهوم مسؤوليت در قبال وظيفه اي که داريم صحيح و کامل است.
همان گونه که در بحث قبلي نيز اشاره شد، نيسن بام بر اين باور است که ما بايد مفهوم پاسخ گو بودن را از موضوع مديون بودن و متعهد شدن به جبران جدا سازيم . به عقيده ي وي، مديون بودن به اين معناست که شخص مي بايد به خاطر کارش مجازات شده و به جبران خسارت وارده محکوم شود، در حالي که پاسخ گويي صرفاً به ارزيابي رفتارهاي تمامي طرف هاي درگير درماجرا مي پردازد. نظريه ي گاتربارن ولاد در دفاع از مسؤوليت مثبت به جاي منفي، در حقيقت، همين هدف را دنبال مي کند. همچنين نيسن بام در جاي ديگري به صراحت از مسؤول دانستن افراد دفاع مي کند و مي گويد اين که يافتن شخص مسؤول چه مقدار مشکل است وبايد اين کار با دقت فراوان انجام گيرد، باعث اين نتيجه گيري مي شود که هر گونه اشتباهي در مشخص کردن شخص مسؤول برعهده ي کسي نباشد.
ب- تجديد نظر در طراحي کامپيوترها
گرايش وافر به مقصر دانستن کامپيوترها به اين موضوع منتهي مي شودکه کامپيوترها از لحاظ طراحي مورد بازنگري قرار گيرند تا ماهيت مسؤوليت ناپذيربودن آنها بيشتر نمود پيداکند.(1)براي مثال ،طراحي مجدد کامپيوترها به نحوي که احساس حضور آنها کلاً حذف گردد يا به حداقل برسد(مثل اين که کنترل فايل ها و برخي ديگر از قسمت ها در اختيار انسان ها قرار گيرد)، موجب مي شود که اين تصور که کامپيوتر خود يک عامل مستقل است تا در نتيجه داراي مسؤوليت باشد از بين برود. افزون بر اين ، انتخاب سيستم هاي مدار باز به جاي مدار بسته( که به موجب آن کامپيوتر صرفاً مواردي را به کاربر توصيه مي کند و وي مي تواند آنها را بپذيرد يا رد کند ) و مشارکت دادن کاربر در طراحي کامپيوتر، باعث مي گردد که کاربران به عواملي فعال در فرايند تصميم گيري در مورد نوع استفاده و نوع طراحي تبديل شوند.(2)
دو راه کار ديگر نيز در اين جا شايسته ي معرفي است : نخست، متمسک شدن به دلايلي که باعث مي شود فرد در انتخاب سيستم کامپيوتري پيش قدم شود. به طور خلاصه ، افرادي که کار نظارت بر عمليات کامپيوتري را به عهده مي گيرند بايد نوعي از مسؤوليت را به خاطر انتخاب کامپيوتر براي اجراي پروژه ي خود بپذيرند. شايد منتقل شدن اين مسؤوليت به اين افراد باعث گردد که در تصميم خويش براي استفاده از کامپيوتر دچار ترديد شوند.
توانايي کامپيوترها در سبقت گرفتن بر عوامل انساني و غلبه بر آنها در دقت،کارآمدي و اطمينان امري بديهي است ، ولي براي استفاده از اين توانايي وجايگزيني کامپيوتر به جاي انسان تلاش عملي جدي نشده است . بنابراين ، راه کار دوم ساختن کامپيوتر هاي مسؤول است .(3) در راستاي تحقق اين هدف، تامپسون(4) بر اين عقيده است همان تلاشي که براي آموزش و تربيت نيروي انساني انجام مي شود مي تواند در راستاي آماده نمودن کامپيوترها انجام گيرد و سپس مسؤوليت به آنها واگذار گردد.
ج - تبيين واضح هنجارهاو اصول
آگاهي داشتن نسبت به هنجارها، اصلي بنياني در پذيرش مسؤوليت است و نقشي مهم در فرايند حرفه اي شدن ايفا مي کند(5).
يکي از هنجارهايي که لازم است مشخص گردد. اين است که روابط ميان طراح و برنامه نويس از يک طرف و مشتري را از طرف ديگر معين کند.جانسون و مولوي در تدوين اين هنجارها به مدل معتبري متمسک شده اند.بر اساس اين مدل، يک طرف اين ارتباط (مثلا طراح ) داراي تجربه و دانش خاصي است و طرف ديگر(مثلا مشتري) در پي استفاده از اين دانش است و با اعتماد بر اين دانش تصميم گيري مي کند. با تحقق وادامه ي اين رابطه، تصميمات مشترک ميان دو طرف گرفته مي شود. با مشخص شدن بيشتر انتظاراتي که هر يک ازاين دو طرف از همديگر دارند گام مهمي در تحقق حرفه اي گري برداشته مي شود.
مورد ديگر، مشخص شدن هنجارهاي مرتبط به همکاري با طرف هاي درگير دراستفاده از کامپيوتراست. در اين باره ديلارد و يوتاس(6) با تمسک به اخلاق مسؤوليت نيبور(7) بر اين نکته تأکيد کرده اند که لازمه ي رفتارهاي مسؤولانه، شناسايي و همکاري با اعضاي مرتبط
با کامپيوتر در جامعه و شناختن گذشته و آينده ي آن ودر نتيجه تفسير صحيح عملکردهاي افراد است. به جاي توصيف کردن رفتارهاي خاص اشخاص ( که ممکن است نتيجه يک تصميم گيري باشد) و مسؤول دانستن آنها به خاطر آن رفتارها، بر مسؤوليت افراد در فرايند تصميم گيري تاکيد مي شود و به ويژه بر نياز به مشاوره با چنين افرادي اصرار مي گردد.
مورد بعدي، شناسايي هنجارهايي است که برروند توليد واستفاده از سيستم هاي کامپيوتري حاکمند. نيسن بام پيشنهاد مي کند که آيين نامه اي براي توليد کامپيوترهاي مطمئن تر و قابل اعتمادتر تدوين شود. گاتربارن معتقد است که اين مقررات بايد فراتر از صرف مراقبت کافي ( اجتناب از وارد شدن خسارت مستقيم ) باشد و بايد بر افزايش سود براي افرادي که از محصولات کامپيوتري استفاده مي کنندنيز منجر گردد.
مورد بعدي، تصويب قوانين براي تمام افرادي که در نقش هاي متعددي از قبيل توليد، اجرا و استفاده ي کامپيوتري انجام وظيفه مي کنند.اين مورد را در ادامه ي مقاله به طور مفصل بحث خواهيم کرد.
وسرانجام، ايجاد مقرراتي سخت گيرانه در خصوص مسؤوليت و تعهد جبران است. خانم نيسن بام، با وجود تأکيد کلي بر مفهوم مسؤوليت مثبت ، نسبت به معضل ايرادهاي کامپيوتري و مالکين کامپيوتر و غير قابل اجتناب بودن آنها نيز ساکت نبوده و خواهان متوجه شدن مسؤوليت و تعهد به آنان شده است . او مي گويد:«لازم است تعهدات سخت گيرانه در رابطه با ساختن نرم افزارهاي شخصي که به سفارش افراد توليد مي شود و نرم افزارهاي عمومي که مي تواند تاثير زيادي برروي جامعه و اشخاص گذارد وضع شود .

روشن کردن مسؤوليت ها
 

دو دانشمند به نام هاي موري(8) و کاتس(9) تلاش کرده اند مقررات و هنجارهاي مشخصي براي نقش هاي مختلف در فرايند توليد سيستم هاي کامپيوتري معرفي نمايند. هنجارهاي معرفي شده توسط موري بيشتر برمسؤوليت نقشي تمرکز دارند، در حالي که کاس به صراحت مواردي را که مربوط به مسؤوليت هاي اخلاقي نيز مي شود گنجانده است. هر دو دانشمند رهنمودهاي مفيدي براي بهبود اين روند با افزودن بر آگاهي هاي اخلاقي افراد ارايه داده، با بيان ملاک هايي جهت ارزيابي و تشخيص کوتاهي در اجراي تعهد به بهتر شدن فرايند کمک شايان کرده اند.
موري بيشتر برمسؤوليت نقش متمرکز شده و کمتر به مسؤوليت اخلاقي پرداخته است. به طور کلي، تلاش اصلي موري نشان دادن طبيعت وابسته به هم بودن پروژه هاي کامپيوتري است.وي ، در راستاي اين هدف چنين مي گويد:«هدف نهايي بايد اين باشد که فلسفه اي در راستاي مديريت پروژه هاي فناوري اطلاعات ايجاد گردد که به تحقق اين ايده بپردازدکه موفقيت يک پروژه در حقيقت
موفقيت همگان و شکست آن به معناي ناکامي همه ي افراد در گير در آن است .(10)
از سوي ديگر ، کاس(11) در مقام پاسخ گويي به اشکالاتي که به پروژه ي ايجاد کامپيوترهاي هوشمند براي مراجعه ي افراد غير متخصص به آنها شده بود، مجبور گرديد به تعريف دوباره ي وظايف افراد مختلف در مراحل طراحي ، توليد و سپس استفاده از اين نوع کامپيوترها بپردازد و مباحثي را مطرح کند که بر اساس آن، نوع کيفيت و شرايط مسؤوليت افراد در هر يک از اين نقش ها در صورت وقوع خسارت مشخص شود. وي، نه تنها ملاک هايي براي ارزيابي مسؤوليت افراد در اختيار قرار مي دهد، بلکه بنا به گفته ي خودش،«اين مباحث آگاهي مردم را نسبت به تعهدات خويش و مجازات هايي که در صورت قصور هنگام رويارويي با سيستم هاي هوشمند متوجه آنان خواهد بود، افزايش مي دهد.»(12)
در تحقق اين هدف، کاس، به مفهوم اخلاق ارسطويي متمسک مي شود. طبق اين مفهوم،«تنها زماني شخص به خاطر انجام عملي داراي مسؤوليت است که وي عامل علّي درتحقق آن عمل بوده وبا آگاهي از روي اختيار آن را انجام داده باشد.»( 13) از آن جا که همه ي افرد درگير درطراحي، توليد واستفاده از سيستم هاي هوشمند مي توانند داراي ملاک علّي در تحقق خسارت باشند، تمرکز اصلي مباحث کاس به مشخص کردن ميزان آگاهي مورد انتظار هر يک از اين عوامل نسبت به عمل خود و همچنين شناسايي عوامل قهري که مي توانند ماهيت داوطلبانه بودن عمل افراد را دچار ترديد کند تعلق گرفته است.
برخي از مسؤوليت هاي مرتبط در اين راستا عبارتند از :
- مدير موظف است که محيطي را ايجاد کند که درآن جريان آزاد اطلاعات حياتي در مورد اشکالات احتمالي سيستم تضمين گردد(14)
- کارشناس کامپيوتر موظف است که تخصص خويش را (چه آنهايي که ماهيت دانشي دارند و چه آن مواردي که به رويه و طرز استفاده مربوط مي شوند) در اختيار قرار دهد و موانع و محدوديت هاي اين مهارت و کمبودهاي سيستم هوشمند به عنوان يک سيستم غير انساني را مشخص کند، نيز مشکلاتي که يک کاربر ممکن است در فهم و اجراي اين مهارت با آن روبرو شود را پيش بيني نمايد،(15) و فکري براي جبران اين کمبودها و مشکلات پيش بيني شده بکند و يا اگر مشکلات خيلي بزرگ است، به طور کلي از شرکت در اين پروژه خودداري کند.
علاوه براين ، از آن جا که داشتن دانش و آگاهي لازمه ي تحقق مسؤوليت است، مسووليت کاربر بستگي به اين دارد که او کارشناس مسلط يا تازه کار در استفاده از سيستم هوشمند باشد.
هنگامي که کاربر کارشناس براي مشاوره به سراغ سيستم هوشمند مي رود بيشتر به دنبال تأييد نظريه ي خود و احتمالاً افزايش سطح اطلاعات و توانايي خود مي باشد، واز اين رو، مي تواند نسبت به اين مشاوره و توصيه هاي ارايه شده توسط سيستم موضعي انتقادي اتخاذ نمايد. دو عامل در تحقق مسؤوليت کاربر کارشناس مؤثر است :
1-سياست اجباري کردن تبعيت کاربر از نظريه ي سيستم هوشمند، بدون دادن حق ارزش يابي به کاربر ، که در نتيجه توانايي کاربر در عمل کردن از روي اختيار را زير سؤال مي برد.
2- کمبود آگاهي محيطي وزمينه اي در جريان کار، که موجب کم رنگ شدن آگاهانه رفتار کاربر مي شود. در مقابل، کاربر تازه کار به دليل ناآگاهي نسبت به شرايط و مهارت هاي لازم، صرفاً در قبال آگاهي از شيوه ي جبران اين نقيصه با استفاده از توصيه هاي سيستم هوشمند مسؤوليت دارد.
کاس، يادآور مي شود همه ي افراد درگير در طراحي ، توليد و استفاده از سيستم هوشمند موظف هستند که از مهارت هاي مربوط به حوزه ي کاري خويش و همچنين مواردي که مربوط به حوزه ي کاري ديگري ولي در ارتباط غير مستقيم با او هست ، آگاه باشند، با اين حال، هيچ ضمانتي وجود ندارد که همه ي اعمال انجام شده در اين فرايند از هر عيب و نقصي مبرا باشد؛ چرا که ممکن است خطاهاي غير عمدي رخ داده باشد.

آيا مي توان کامپيوتر را از لحاظ اخلاقي مسؤول دانست؟
 

همان گونه که در بحث موانع مسؤوليت اشاره شد و توسط تحقيقات تجربي صورت گرفته توسط فريدمن(16) در مقاله اش با عنوان «ارزش هاي انساني و طراحي فناوري کامپيوتري(17) ومون(18) در اثرش با عنوان «آيا کامپيوتر گناهکار است ؟(19)اثبات شده است ، انسان ها تمايل دارند که کامپيوترها را مسؤول بدانند. البته اين که ما کامپيوترها را مقصر بدانيم دليل نمي شود که کارما توجيه پذير باشد.
روشن است که کامپيوترها مي توانند عامل علّي و مستقيم آسيب هاو مرگ و ميرهاي پيش آمده در نيتجه عملکرد ناقص خويش باشند، ولي نمي توان آشکارا آنان را مقصر اين عواقب دانست . درحقيقت، بسياري از دانشمندان معتقدند که کامپيوترها گزينه ي مناسبي براي پذيرش، مسؤوليت اخلاقي نيستند . براي مثال ، لاد(20) مي گويد: «نسبت دادن مسؤوليت به کامپيوتر، چه از نوع تکنولوژي و چه از نوع اجتماعي، شبيه سازي کامپيوتر بر اي انسان است و غير معقول به نظر مي رسد(21) .
همان گونه که پيش تر اشاره کرديم، بهترين راهکار در اين باره اين است که کامپيوتر ها دوباره طراحي شوند، به طوري که مسؤوليت آنها براي کاربر مشخص تر و بارزتر گردد. با اين حال، دانشمندان زيادي امکان مسؤول دانستن اخلاقي کامپيوتر ها را مورد بحث و بررسي قرار داده اند.
دانشمندي که گونه اي چشمگير در اين موضوع کار کرده دنت (22)است. وي، با طرح بحث تعمد و قصد مندي با عنوان « حالت تعمدي و اثبات نوعي اراده براي کامپيوتر» مجوز مسؤول دانستن کامپيوتر را صادر نمود.
دانشمند ديگري که در اين زمينه کار کرده بچتل(23) است. وي، در مقاله اش (24) به نسخه ي اصلاح شده اي از ادعاهاي دنت در مورد داراي اراده بودن کامپيوتر استناد مي کند. اومي گويد تعمد داشتن کامپيوتر پديده ي ممکني است ولذا مسؤول دانستن آن به خاطر تصميمات متعمدانه اش منطقي است. البته اين به معناي رها دانستن نيروي انساني از مسؤوليت نيست، ولي به هر حال انسان ها عهده دار عواقب کارهايي که در نتيجه ي تصميم کامپيوتر به وجود مي آيد نيستند.بچتل مي گويد مسؤوليت انسان ها صرفاً در حد پاسخ گويي به تهيه و ساخت اين سيستم ها است. (25)
رونالد(26) و سيپر(27) با پيش بيني کردن (آينده هنگامي که کامپيوتر ها مي توانند مانند انسان ها سخن بگويند) اين موضوع را که آيا تبديل شدن به جعبه ي سخن گو مي تواند موجب متعهد شدن و مسؤوليت پذير شدن
کامپيوتر گردد مورد بحث قرار داده اند آنها معتقدند که رويه ي فعلي ما در مسؤول دانستن و پاسخ گو بودن توليد کنندگان روزي تغيير خواهد کرد. «درآينده اين نوع مسؤوليت به صورتي خواهد بود که کمتر شباهتي به نوع تعهد توليد کننده ي محصولات داراي ضمانت داشته و بيشتر شبيه به حالتي است که پدر و يا مادر به فرزند خويش آموزش حقوق مشتري مي دهند. » (28) بنابر اين ، نه تنها بايد به امکان اين که کامپيوترها مي توانند داراي مسؤوليت باشند توجه نمود، بلکه بايد راه هاي تحقق اين هدف را بررسي کرد.
در مقابل، فريدمن (29) وکان(30) بر اين باورند که کامپيوتر نمي تواند از لحاظ اخلاقي مسؤوليت داشته باشد.باور آنها اين است که کامپيوترها به خاطر نداشتن قصد مندي- که لازمه ي تحقق مسؤوليت است- از هر گونه مسؤوليت و تعهدي مبرا هستند.(31)
سرانجام، سنپر،(32) با در نظر گرفتن مواردي که علي رغم طراحي قابل قبول و عملکرد صحيح کامپيوتر باز هم شاهد پيش آمدن خطاهاي کامپيوتري هستيم ، استدلال مي کند که با وجود کنترلي که برنامه نويس بر روي نرم افزار داشته و در نتيجه خروجي کامپيوتر را در اختيار خود دارد، کامپيوترها توانايي انتخاب ارادي دارند. با اين حال، وي، در ادامه با استناد به بحث هاي مطرح شده توسط ارسطو در مورد مسؤوليت اخلاقي، به اين نکته اشاره مي کند که کامپيوترها توانايي پشيمان شدن نسبت به تصميماتي که پيش از اين گرفته اند ندارند؛ زيرا اين تصميمات را نمي توان به عنوان اقدامي داوطلبانه تفسير نمود، و در نتيجه ، نمي توانند مسؤول عواقب اين تصميمات باشند.

آيا انسان ها مي توانند قدرت تصميم گيري رابه کامپيوترها تفويض کنند؟
 

کوفليک (33) در مقاله اي (34) به معرفي شش نوع مختلف مسؤوليت مي پردازد.
اين شش نوع مسؤوليت عبارتند از : 1. مسؤوليت سببي؛ (35) 2. مسؤوليت نقشي و وظيفه اي ؛(36) 3. پاسخ گويي اخلاقي ؛ (37) .4. مسؤوليت افتخاري و اعطايي ؛(38) 5. مسؤوليت نقشي ؛(39) 6. مسؤوليت نظارتي و کنترل (40).
پس از معرفي اين شش نوع مسؤوليت، وي، اين سؤال را مطرح مي کند که يک انسان مسؤول(نوع3) به چه ميزان حق دارد مسؤوليت (نوع 2و يا 5) را مسؤولانه (نوع4) به کامپيوتر واگذار کند، بدون اين که براي خود مسؤوليت نظارت (نوع6) قرار دهد(41).
دانشمنداني چون بچتل،(42) لاد،(43) مور،(44) نيسن بام(45) و کوفليک(46) همگي به اتفاق نظر( به جز در موارد نادر) بر اين باور هستند که انسان هاي مسؤول نمي توانند مسؤولانه همه ي مسؤوليت خود را به کامپيوترها واگذار کنند.
لاد مي گويد که کنترل کامپيوتري سيستم ها و ماشين آلات تا حد زيادي شبيه کنترل انساني خود کامپيوترها در برخي موارد است . ولي کامپيوترها براي برخي از نظارت ها بهتر و مناسب تر از انسان ها هستند: براي مثال، در مواردي که نياز به پردارش اطلاعات به صورت دقيق، سريع ودر زمان اندک باشد. البته انسان ها در برخي ديگر از موقعيت ها بهتر از کامپيوترها در کنترل و نظارت عمل مي کنند: مثل مواردي که احتمال حادثه و پيش آمدهاي غير مترقبه وجود دارد. بنابر اين ، لاد چنين استدلال مي کند:«انسان ها در مواردي که نياز به قضاوت باشد بهتر از کامپيوترها هستند. » (47) لاد سپس اضافه مي کند: «حتي در مواردي که نياز به قضاوت نباشد، به دليل موارد امنيتي (مثل اين که احتمال خطايي وجود دارد که در صورت بروز منجر به حوادث فاجعه آميز خواهد شد)، لازم است انسان ها مداخله کرده و کنترل و نظارت را از کامپيوترها بگيرند.(48)
مور(49) در اين باره مي گويد: کامپيوترها توانايي تصميم گيري دارند، ولي نبايد به آن ها اين امکان داده شود. وي، با پذيرش نظر لاد در مورد اين که کامپيوتر و انسان، هيچ کدام، نمي توانند به صورت خودکار بهترين گزينه براي تصميم گيري و نظارت باشند، مي گويد:«با در نظر گرفتن اهداف و ارزش هاي اساسي خود و با توجه به اولويت هاي موجود در آنها لازم است که به صورت تجربي صلاحيت کامپيوترها در تصميم گيري و نتايجي که در پي مي آيد به صورت مورد به مورد بررسي شود.»(50) با اين وصف، مور، در جاي ديگر بر اين موضوع تاکيد مي کند که يک حوزه ي خاص وجود دارد که لازم است کامپيوتر از قدرت تصميم گيري محروم شود. وي مي گويد: «از آن جا که انتظار ما از کامپيوترها برآورده کردن اهداف و ارزش هاي ماست لازم است قدرت تصميم گيري پيرامون اين اهداف وارزش ها از آنها سلب گردد. » (51) مور همچنين اضافه مي کند که اگر انسان ها به مسؤوليت خويش در قبال کامپيوتر ها عمل نکنند ، وبراي مثال در اثبات صلاحيت کامپيوترها مسامحه کنند و يا مسؤوليت تصميم گيري در مورد اهداف و ارزش ها را به کامپيوترها واگذار کنند، اين بي مسؤوليتي به مرور موجب فرسوده شدن و از بين رفتن نقش انسان و وظيفه ي اخلاقي او مي شود.
کوفيلک مي گويد: از آن جا که کامپيوترها جايز الخطا بوده ودر معرض اشتباه هاي بزرگ قرار دارند، انسان نبايد مسؤوليت نظارت خود را به کلي به آنها واگذار کنند. البته وي معتقد است که نظارت بر کامپيوتر ممکن است به صورت مورد به مورد ويا به صورت نظارت دوره اي انجام پذيرد وبراي ايجاد تعادل ميان اين دونوع نظارت و انتخاب بهترين آن ، وي تجربيات روزمره ي ما در مواردي که به متخصص مراجعه مي کنيم و تحت نظارت او قرار مي گيريم(مثل رابطه ي بيمار و پزشک ) را پيشنهاد مي کند.
تامپسون نيز تا حدودي به همين نتيجه رسيده است. او معتقد است که ما نبايد مسؤوليت قضاوت در مورد خود را به کامپيوتر ها واگذار کنيم، مگر در صورتي که کامپيوترها داراي توانايي خود آگاهي شوند که خود را درون جامعه ي انساني ببينند(اگر چنين چيزي ممکن شود)، در غير اين صورت ، از آن جا که کامپيوتر از هر گونه احساس شفقت و دلسوزي مبراست ، نمي تواند در تصميماتش در مورد انسان عاقلانه و مسؤولانه تصميم گيري نمايد.

پی نوشت ها :
 

1-Friedman and Millett, Reasoning About Computers as Moral Agents : A Research Note
2 -Friedman and Millett, Reasoning About Computers as Moral Agents : A Research Note p.11
3-Intelligence is not enough: On the socialization of talking machines.
4-Intelligence is not enough: On the socialization of talking machines.
5-Johnson and Mulvey
6-Dillard, j. f. and K. Yuthas, A r esponsibility ethics for audit expert systems.
7-Neibuhr
8-Murray
9- Murray and Cass, Recognizing the Responsibility of a Failed Infomation Technology project as a Shared Failure.
10- Murray Recognizing the Responsibility of a Failed Information Technology project as a Shared Failure p: 29.
11-Cass .
12- Cass. Expert Systems as General - Use Advisisory Tools :An Examination of Moral Responsibility p:69.
Cass , above p:70-13.
14- Cass. Expert Systems as General - Use Advisisory Tools :An Examination of Moral Responsibility p:730
15- Cass. Expert Systems as General - Use Advisisory Tools :An Examination of Moral Responsibility p:740
16-Friedman
17-Human Values and the Design of Computer Technology.
18-Moon
19-Are Computers Scapegoats? Attributions of Responsibility in Human - computer interaction.
-Ladd.
20-Ladd, COMPUTERS AND mORAL rESPONSIBILITY .P:218.
21-Danet.
22-Bechtel
23-Attributing Responsibility to computer systems
24-Bechtel AttributingResponsibility to computer systems p. 297.
25-Ronald
26-Sipper.
27-Intelligence is enough :On the socialization of talking machines.
28-Friedman.
29- Kahn
30- Friedman Agency and Responsible Computing - Implication for computer - system Design p:9.
31- Snapper.
32- Kuflik
33- computers in control: Rational Transfer of Authority or Irresponible Abdication of Autonomy ?
34- Causal Responsibility.
35- Functional Role Responsibility
36-Moral Accountability
37- honorific sense of responsibility
38- Role Responsibility.
39-Oversight Responsibility.
40-Kuflik, computers in control :Rational Transfer ofAuthority or Irresponsible.
Abdication of Autonomy? p:189.
41- Bechtel , Attributing Responsibility to computer systems
42-Ladd, COMPUTERS AND mORAL rESPONSIBILITY
43-Moor , Are There Decisions Computers Should Never Make?
44-Nissenbaum , Computing and Accountability , Accountability in a computerized society
45-Kuflik, .computer in control : Rational Transfer of Authority or Irresponsible Abdication of Autonomy ?
46- Ladd , Computers and Moral Responsibility p:223.
47- Ladd , Computers and Moral Responsibility p:224
48- Moor
49- Moor ,Are There Decisions Computers Should Never Make? p. 129.
50-The same.
51- Kuflike, A, Computers in Contril : Rational Transfer of Authoritr or Irresponsible Abd ication of Autonomy?
 

منبع:نشريه اخلاق شماره16
/ج