ضرورت ارزیابی اخلاقی تکنولوژی های نوین ارتباطی
نويسنده: وحیده علی پور
چکیده
تکنولوژی های جدید، اغلب مشکلات اخلاقی ناشناخته ای را موجب می شود و سال ها طول می کشد تا اثرات آن در جامعه مشخص شود. ما در این مقاله شکل جدیدی از ارزیابی تکنولوژی را که روی مفاهیم اخلاقی تکنولوژی های جدید تمرکز دارد (ارزیابی اخلاقی تکنولوژی) ((Ethical Technology Assessment (ETA) مورد بررسی قرار می دهیم. ارزیابی اخلاقی تکنولوژی که به عنوان وسیله ای برای شناسایی اثرات منفی تکنولوژی های جدید در گام های اولیه عمل می کند، عهده دار گفتگو با توسعه دهندگان تکنولوژی است، شکلی از گفتگوی مستمر است و یک ارزیابی مقطعی و موقتی نیست.
در این مقاله بحث خواهیم کرد که اشکال رایج در ارزیابی تکنولوژی نیاز دارند با نوع جدیدی از ارزیابی تکنولوژی، یعنی ارزیابی اخلاقی تکنولوژی تکمیل شوند که هدفش، تهیه ی شاخص های منفی مفاهیم اخلاقی در اولین گام توسعه ی تکنولوژی است. متدولوژی که ما ارئه می دهیم، بر مبنای فهرست (چک لیست) اخلاقی است که 9 گروه مهم از مباحث را مشخص می کند و باید هنگام توسعه و بکار گیری تکنولوژی مدنظر قرار گیرد.
در بخش 2 این مقاله، توسعه های قبلی در ارزیابی تکنولوژی با تاکید بر کمبود هایی که در طرح حاضر مطرح شده است، خلاصه شده اند. در بخش 3 ، بحث مربوط به لزوم نیاز به ارزیابی اخلاقی تکنولوژی مطرح می شود. در فصل 4 فهرست (چک لیست) اخلاقی معرفی شده و در نهایت در فصل 5 نتایج نهایی پژوهش بیان می شود.
1-مقدمه
آهنگ پر شتاب تغییر را می توان ناشی از عوامل متعددی دانست. رشد جمعیت و شهر نشینی و تغییر شدید نسبت جمعیت جوانان به پیران، هر کدام در این امر نقش دارند. اما پیشرفت تکنولوژیکی به وضوح کانون اصلی و حیاتی همه علل به شمار می رود و در واقع همین کانون است که تمام عوامل دیگر را به حرکت در می آورد. بنابراین یکی از تدابیر موثر در راه مبارزه برای جلو گیری از شوک فراگیر آینده، عبارت است از تنظیم آگاهانه پیشرفت تکنولوژیکی. ما نه می توانیم و نه درست است که پیشرفت تکنولوژیکی را متوقف کنیم. تنها عده ای آدم خیال پرداز درباره بازگشت به طبیعت سخن سرایی می کنند. بازگشت به طبیعت یعنی حالتی که در آن نوزادان به دلیل نبودن مراقبت های اولیه پزشکی می خشکند و می میرند؛ حالتی است که در آن سوء تغذیه، ذهن را خرفت می سازد. همان طور که هابس خاطر نشان می کند، حالتی است که در آن، زندگی معمولی و همگامی، فقیرانه ، ناپسند، ددمنشانه و کوتاه است. پشت کردن به تکنولوژی نه تنها ساده¬لوحانه، بلکه عملی است ضد اخلاقی. در عین حال تردیدی در این نیست که ما اغلب تکنولوژی جدید را به نحو خودخواهانه ای بکار می بریم و در شتاب خود برای بهره مندی فوری از تکنولوژی در زمینه پیشرفت اقتصادی، محیط زندگی خود را به صورت یک بشکه باروت در آوردهایم. قدرت تکنولوژیکی ما روز بروز افزایش پیدا می کند و لی آثار جانبی و مخاطرات بالقوه آن نیز روز بروز بیشتر می شود. ما در معرض خطر آلودگی حرارتی اقیانوس ها، یعنی گرم شدن بیش از حد آنها، از بین رفتن حیات در دریاها و شاید حتی ذوب شدن یخ های قطبی قرار گرفته ایم. با مشخص و نمایان شدن آثار و عواقب هراس آور و شوم استفاده غیر مسئولانه از تکنولوژی، واکنش سیاسی نیز شدت می گیرد.
ما شدیدا نیازمند جنبشی برای یک تکنولوژی مسئول و متعهد هستیم. ما به یک سیاست وسیع نیازمندیم تا تحقیقات علمی و پیشرفت تکنولوژیکی را فقط بر اساس گزینش، پیشرفت دهد. این گروه بجای تلف کردن نیروی خود بر سر نفی ماشین، باید سلسله اهداف تکنولوژیکی و مثبتی را برای آینده تدوین کند. امروزه ما با واقعیت خطرناک تری روبروشده ایم و آن اینکه بسیاری از مصایب اجتماعی، بیشتر نتیجه فقدان ستمگرانه کنترل است تا کنترل ستمگرانه. واقعیت هولناک آن است که هر چه به مسئله تکنولوژی مینگریم، کسی را نمی یابیم که او را مقصر بدانیم. به این ترتیب، بین جامعه ای که پیشرفت تکنولوژی را با حسن انتخاب تحت اختیار می گیرد و جامعه ای که کورکورانه هر فرصتی را غنیمت می شمارد و به آن لبیک می گوید، به سرعت تفاوت های اساسی بروز می کند.
2- توسعه ارزیابی تکنولوژی
در دهه ی 1960 تقاضا برای مسئولیت اجتماعی بیشتر، در توسعه ی تکنولوژی افزایش یافت و این تقاضاها عمدتا از افزایش آگاهی عمومی درباره ی مشکلات زیست محیطی و اجتماعی که تکنولوژی های جدید به وجود می آوردند، ناشی می شد. حادثه ای که در هنگام حفر چاه نفت در اقیانوس آرام رخ داد و 800 میل مربع از دریا را آلوده کرد، خشم تمام مردم ایالات متحده ی امریکا را بر انگیخت. یک کارخانه دار ثروتمند نوادایی به نام «هوارد هیوز» شکایتی در دادگاه مطرح کرد تا مانع ادامه ی آزمایش های هسته ای کمیسیون انرژی اتمی در زیر زمین شود. در دانشگاه های ام.آی.تی، کرونل و بقیه، دانشمندان با وقفه در تحقیقات، لوله های آزمایش و خط کش های محاسباتی خود را کنار گذاشتند و دور هم جمع شدند تا درباره آثار و نتایج کار خود به بحث بپردازند (کامرانی، 1372). ظهور ارزیابی تکنولوژی سازمان یافته و منسجم، اولین تلاش برای بدست آوردن کنترل سیاسی روی اثرات منفی توسعه ی تکنولوژی از راه پیش آگاهی بود. فرض می شد که TA می تواند نتایج منفی نوآوری فنی را به منظور تسهیل تصمیم گیری سیاسی پیش بینی کند و انتظارات عمومی این بود که TA بتواند برنامه ی آینده تکنولوژی جدید را آشکار سازد.
اصطلاح «ارزیابی تکنولوژی» برای اولین بار در سال 1966 از سوی فیلیپ یاگر (PhilipYeager) که برای سیاستمداران امریکا کار می کرد، مطرح شد تا پایه های تصمیم گیری سیاسی در زمینه ی ملاحظات توسعه ی تکنولوژیکی را بهبود بخشد. او آژانسی را برای کمک به تعیین پیامد های تکنولوژی ایجاد کرد تا به ارتقای اثرات مثبت و کاهش اثرات منفی تکنولوژی کمکی کرده باشد (Ropohl, 1996, 168p). به تبع آن در سال 1972 اداره ی ارزیابی تکنولوژی(OTA) آمریکا ایجاد شد. این نهاد به عنوان اولین موسسه بر آن شد که استاندارد هایی را برای ارزیابی تکنولوژی برای 2 دهه بنیان گذارد. این اداره که توسط کنگره ی امریکا ایجاد شد، پاسخی بود به نیاز به یک نهاد مشخص با وظیفه تجزیه و تحلیل و پیش بینی توسعه ی تکنولوژی. تعدادی از مباحث سیاسی بحث برانگیز نظیر سرمایه گذاری ایالات متحده امریکا در حمل ونقل مافوق صوت، سیستم موشک ضد بالستیک و خط لوله ی ارتباطی آلاسکا در ایجاد OTA مشارکت داشتند (Kunkle, 1995). ارزیابی های OTA پیشنهادهای خاصی را ارائه نمی دهند اما در عوض گزینه ها را مشخص کرده و نتایج شقوق جایگزین را روشن می سازند. از آنجایی که گزارش ها وقت گیر و پر هزینه بودند، کار مهم، گزینش از بین ارزیابی های مورد تقاضا و تعریف حیطه ی هر کدام از مسائل بود.
OTA در سال 1995 تعطیل شد و تا آن زمان آژانس بالغ بر 700 گزارش در موضو ع هایی وسیع، مرتبط با علم و تکنولوزی منتشر کرده بود. بعد از آن سهم عمده در فعالیت های TA در دست آلمان بود.
امروزه موسسات تحقیقی مستقل (موسسات ارزیابی تکنولوژی و تجریه و تحلیل سیستم) هم در آلمان و هم در سطح بین المللی در حال فعالیت هستند (www.europarl.eu.int). به علاوه چندین کشور اروپایی از 1990 ، ادارات TA پارلمانی در درون اتحادیه ایجاد کرده اند. TA از چندین جهت مورد انتقاداست؛ یکی از انتقادهای معمول این است که TA جاه طلبی های غیر واقعی برای پیش بینی توسعه ی تکنولوژی در آینده دارد. یکی دیگر از انتقادهای متداول این است که ارزیابی تکنولوژی، هزینه بر است (Ropohl, 1996, 172p)
یکی از بحث ها ی مطرح شده این است که شکل و نتیجه ی فعالیت های TA به جای ارتباط با نیاز های اجتماعی و واقعی جامعه، به طور زیادی به علایق سیاسی رایج بستگی دارد.
ارزیابی های توسعه تکنولوژیکی و خلاقیت ها می توانند به عنوان حربه رقابتی عمل کنند. گزینش تکنولوژی هایی که مورد ارزیابی قرار گیرند، مهم ترین موضوع ارزیابی است. بنابراین، انتخاب مباحث برای ارزیابی، در تعیین حوزه ی ارزیابی تاثیر زیادی دارد .(Kowalski, 1994)
مطالعات TA جاری در جهان غرب پدیدارشده و شکل گرفته و با توجه به شرایط سیاسی و اجتماعی آن حوزه تعریف شده و در آن علاقه ها و سلیقه های غیر غربی خیلی کم مورد نظر قرار گرفته است. مشکل عمومی در ارزیابی تکنولوژی، برداشتن گام های مساوی با توسعه ی تکنولوژیکی است. از همان ابتدای شروع TA انتظار می رفت که TA بتواند پیامدهای آینده ی تکنولوژی جدید را آشکار کند. در حقیقت ارزیابی های تکنولوژیکی خیلی کمتر به اثرات اجتماعی تکنولوژی پرداخته اند. هر چند که بسیاری از ارزیابی های تکنولوژیکی با اهداف برنامه ریزی شده، برای پوشش دادن ابعاد قانونی، اخلاقی، روانشناسی، اقتصادی و اخلاقی تکنولوژی آغاز شده، نتایج نهایی آن ضعیف بوده است (Goonatilake, 1994). با تمام این مباحث، موفق ترین نوع TA تجزیه و تحلیل اثر محیطی تکنولوژی است. در حالی که TA عمومی معمولا یک تکنولوژی و یا روش تکنولوژیکی را مورد ملاحظه قرار می دهد، ارزیابی تکنولوژی محیطی و تجزیه و تحلیل ریسک فقط یک کاربرد خاص از تکنولوژی، مثل یک کارخانه یا یک محصول خاص را مورد نظر قرار می دهد. این گونه ارزیابی ها، از تجزیه و تحلیل اثرات غیر مستقیم تکنولوژی های مورد بررسی خودداری می کنند. بنابراین بخش عمده ی نیاز به تجزیه و تحلیل اخلاقی پیامدهای تکنولوژی حذف می شود. بررسی تخصصی پیامد های اجتماعی تکنولوژی به نام تجزیه و تحلیل اثر اجتماعی (Social Impact Analysis (STA انجام می شود و غیرمتداول است (www.imf.org). در دهه ی 1980 ارزیابی مشارکتی تکنولوژی participatory Technology Assessment (PTA) به عنوان یک جایگزین برای TA سنتی مطرح شد، مخصوصا در دانمارک و هلند؛ و این یک عکس العمل در مقابل تقاضای حیطه ی بزرگتر برای نفوذ عمومی و مشارکت در تصمیم گیری بود که طیف وسیعی از فعالان را نسبت به TA سنتی شامل می شد، مثل سیاستمداران، اتحادیه های تجاری، ژورنالیست ها، دانشمندان، توسعه دهندگان تکنولوژی و مردم. با این وجود، به طور عمده تمرکزش مثل TA سنتی است؛ یعنی در حد پیش آگاهی زود هنگام تکنولوژی های جدید و پیامد های اجتماعی آن و تسهیل کردن تصمیم گیری سیاسی درباره اثرات بالقوه منفی تکنولوژی های جدید.(kluver, 2000)
آزمایشات وسیعی که در ایالات متحده امریکا و سوئد و جاهای دیگر انجام گرفته، حاکی از آن است که احتمالا در آینده می توان هوش و توانایی های انسان را در زمینه ی بررسی اطلاعات افزایش داد. تحقیقات در زمینه ی بیو شیمی و اصول تغذیه نشان می دهد که پروتئین RNA و سایر مواد قابل دستکاری، با حافظه و یادگیری ارتباط دارند و تلاش وسیعی برای گذشتن از موانع و حد و حدود هوش، به بهبود حیرت انگیز انطباق پذیری انسان می انجامد. چه بسا آن لحظه ی تاریخی برای بسط و شکوفایی انسان، یعنی جهشی به سوی یک ارگانیزم فرا انسانی رسیده باشد. اما عواقب این کار و شقوق مختلف آن چه خواهد شد؟ چه وقت چنین دنیایی را می خواهیم؟ چه کسانی باید به آنها دسترسی داشته باشند؟ و چه کسانی نباید دسترسی داشته باشند؟ آیا می توان معالجات بیو شیمی را در مورد عقب ماندگان ذهنی بکار بست و آنان را به صورت انسان های طبیعی در آورد؟ آیا این مداواها را باید برای ارتقای افراد متوسط بکار برد و یا باید آنها را برای ساختن افرادی بهتر از نوابغ مورد استفاده قرار داد؟(کامرانی، 1372).
کنسول دانمارکی تکنولوژی برنامه ای را برای PTA (ارزیابی مشارکتی تکنولوژی) به وسیله تاکیدش روی مشارکت و تجاربش با متد های مختلف برای انواع فعالان شرکت کننده ارائه داد. گروه های متمرکز، پانل های آینده و کنفرانس هایی برای اجماع و گفتگو، تعدادی از متد های مشارکت هستند که گسترش یافته اند؛ کنفرانس های مردم عادی و کنفرانس های هم رایی به طور معمول در مباحث بحث انگیز بکار برده شده و بیشتر در ارتباط با بیو تکنولوژی و تکنولوژی ژن بوده است. در اواسط دهه ی 1980 رشته ی TA با ترکیبی از ارزیابی سازنده و ارزیابی خلاقانه که هر دو روی تعامل با توسعه دهندگان تکنولوژی برای تاثیر گذاشتن روی مسیر توسعه تکنولوژی متمرکز بودند، رنگ فنی به خود گرفت. ایده اصلی در CTA (ارزیابی سازنده تکنولوژی) (Constructive Technology Assessment ) طراحی فرایندی است برای در بر گرفتن اثراتی که به وسیله تکنولوزی ایجاد می شود. از این رو شبکه هایی از فعالان توسعه ی تکنولوژی شامل سیاست ها، علایق سازمان یافته و کاربران واقعی تکنولوژی ایجاد شدند (Schot, 1998).
CTA (ارزیابی سازنده تکنولوژی ) مرتبط با طراحی فرایندی است که سعی در بهبود روش یادگیری دارد که این نوع ارزیابی از آلمان شروع و در هلند صورت گرفته شده است. تعدادی از موسسات برای ارزیابی تکنولوژی پزشکی در کشور های مختلف که ارزیابی تکنولوژی سلامت Health Technology Assessment (HTA ) نامیده می شود، ایجاد شده اند. یک دلیل مهم راجع به اینکه چرا TA جایگاه مهمی در حوزه پزشکی نسبت به سایر حوزه ها دارد، این است که آنهایی که به عملیات پزشکی می پردازند، مثل دولت ها و کمپانی های بیمه، مشکلات زیادی در پایین آوردن هزینه ها دارند. آنها همچنین انگیزه ها و مشوق هایی قوی برای جلو گیری از همگانی شدن تکنولوژی های جدید دارند، قبل از اینکه سلامت آنها اثبات شود (Clarke, 1998). شکل تخصصی تر TA که در دهه های گذشته تاثیر گذار بوده، ارزیابی اثر بر زندگی خصوصی است که هدف اصلی آن، تجزیه و تحلیل و ارزیابی اثرات بالقوه ی تکنولوژی روی زندگی خصوصی است. اولین PTA (ارزیابی مشارکتی تکنولوژی) در سال 1970 ایجاد شد ولی تا سال 1990 جا نیفتاده بود. دولت کانادا چارچوبی را برای ارزیابی تاثیر تکنولوژی روی زندگی خصوصی ایجاد کرد. هدف از این نوع PTA کمک به بخش ها و آژانس ها برای روشن ساختن این نکته است که آیا تکنولوژی های جدید، سیستم های اطلاعاتی، سیاست ها و نیازمندی های زندگی خصوصی را بر آورد می کند (Bennett, 1991).
3- نیاز برای ارزیابی اخلاقی تکنولوژی
پیچیدگی های تکنولوژی و پتانسیل آن برای تصادم با جامعه، سردرگمی و ترس از تکنولوژی ایجاد کرده¬است. تکنولوژی آنقدر پیشرفت کرده و پیچیده شده است که بعضی افراد، از مشارکت در تصمیمات برای بکار گیری تکنولوژی جدید خودداری می کنند؛ زیرا احساس می کنند که فاقد بینش لازم برای پاسخ به سوالات مقتضی هستند.
باید باور کنیم که توسعه دهندگان تکنولوژی، از همه ی ابعاد تاثیر محصولات شان آگاه نیستند. در بسیاری از موارد، اثرات منفی تکنولوژی، خود توسعه دهندگان تکنولوژی را نیز متعجب می کند. اگر آنها بتوانند پیامد های منفی را پیش بینی کنند، در اکثریت مواقع خواهند توانست بهترین کار را برای اجتناب از این اثرات منفی انجام دهند؛ هم به خاطر ملاحظات اجتماعی و هم به خاطر ملاحظات تجاری و یا هر دو آنها. یک دلیل برای شناسایی و توجه به مباحث اخلاقی در توسعه ی تکنولوژی، فقدان آموزش است. مهندسان به ندرت برای به بحث گذاشتن مباحث اخلاقی آموزش داده می شوند تا از طریق آموزش بتوانند پیامد ها را برای ذینفعان مختلف در گام های اولیه شناسایی کنند. متعاقبا توسعه دهندگان تکنولوژی و جامعه در مسئولیت برای سر و کار داشتن با مباحث اخلاقی که با تکنولوژی های جدید گره خورده است، سهیم هستند.
اما مساله دیگر، تاخیر فرهنگی است. تاخیر فرهنگی دوره ای است بین اختراع تکنولوژی جدید و نقطه ای از زمان که فرهنگ غیر مادی پاسخ به آن را تثبیت کرده است. مذهب، اخلاق، فلسفه، سیستمهای اعتقاد، ارزش ها و قوانین، مثال هایی از فرهنگ غیر مادی هستند (Ogburn, 1996).
تکنولوژی های جدید اغلب با مشکلات اخلاقی ناشناخته و تضادها مواجه می شوند و معمولا سال ها طول می کشد تا تکنولوژی های جدید بتوانند با جوامع عجین شده و مورد قبول واقع شوند. مورد معروف در این زمینه که می تواند مثال خوبی باشد، «کارن آن کوئین لان» سال 1976 است . والدین او اعتقاد داشتند تکنولوژی حیات بایستی از بدن او کشیده شود؛ چرا که سودی برای دختر آنها نداشت. بعد از بحث های اخلاقی و قضایی زیاد، دادگاه عالی اجازه داد که دستگاه نگه دارنده حیات را بکشند؛ هر چند که کارن بعد از برداشتن دستگاه اکسیژن نفس می کشید و به مدت 10 سال در کما ماند. این مورد باعث ایجاد سوالاتی همانند اینها شد که: چگونه تکنولوژی های حمایت کننده ی حیات، باید بکار برده شوند؟ آیا مراقبت شوندگان به طور روحی ملزم به تمدید حیات شده اند؟ کسانی که مغز شان مرده است، زنده اند یا مرده ؟ (Metcalfe, 1995). پیشرفت های سریع در کار پزشکی بی شک تغییرات عمیقی در شیوه ی اندیشیدن و روش مراقبت از بیماران پدید آورده و مسائل حقوقی، اخلاقی و فلسفی جدید و خطیری را نیز باعث شده است؛ مثلا مرگ چیست؟ آیا مرگ همان گونه که به طور سنتی فکر می کردیم وقتی فرا می رسد که قلب از حرکت باز ایستد و یا نه، وقتی پیش می آید که دیگر مغز کار نکند؟ اکنون در بیمارستان ها، بیماران بسیاری هستند که با پیشرفت تکنیک های پزشکی میتوانند زنده بمانند و مثل گیاهان به یک زندگی نباتی و بی خبر از همه چیز ادامه دهند. اگر ما چنین شخصی را محکوم به مرگ کنیم و اعضای سالم بدن او را برای پیوند زدن و نجات دادن زندگی بیمار دیگری که بیشتر از دیگری امکان زیستن دارد، مورد استفاده قراردهیم، حکم اخلاق در این میان چیست؟
پروفسور وایت (Wait) معتقد است که ما نه تنها می توانیم سر یک انسان را به تن انسان دیگر پیوند بزنیم، نه تنها می توانیم کاری کنیم که یک سر و یا مغز مستقل زنده بمانند و به حیات خود ادامه دهند، بلکه حتی تکنیک های موجود، این کارها را امکان پذیر می سازد. او می گوید که در واقع ژاپنی ها نخستین کسانی خواهند بود که یک سر جدا شده ی انسان را زنده نگه می دارند. او می گوید: من خود چنین کاری نخواهم کرد زیرا هنوز این معما را برای خودم حل نکرده ام که آیا این کار درستی است یا نه؟ دکتر وایت که کاتولیک متعصبی است، از نتایج و عواقب فلسفی و اخلاقی این کار بسیار ناراحت است (کامرانی، 1372). این مباحث اخلاقی به وسیله افراد با تجربه در پزشکی، قانونگذاران، فیلسوفان، طلبه ها و عموم توسعه یافته اند. در بسیاری موارد دیگر، خطوط راهنمای اخلاقی در نتیجه ی پاسخ به تکنولوژی های جدید توسعه یافته اند.
هر چند ظهور هم رایی های اخلاقی طول می کشد، اما از آنجایی که بحث های اخلاقی، قسمت ضروری تطبیق و تغییر جامعه هستند، سوالات اخلاقی در رابطه با کاربردهای تکنولوژی های آینده باید در گام های اولیه مطرح شوند تا از شکاف فرهنگی کاسته شود. وظیفه ی مهم، وارد شدن در بحث های منطقی اخلاقی قبل از وارد شدن به مرحله ی پیاده سازی است. سوالات اخلاقی زیادی ناشی از تکنولوژی مدرن در زمینه ی پزشکی و بیو تکنولوژی مطرح شده است. ارزیابی تکنولوژی سلامت ابتدا مرتبط با روش های رفتاری جایگزین در قالب کار آیی و اثرات فرعی و هزینه ها است تا کاربردهای اخلاقی (Reuzel, 2004). در زمینه ی پزشکی، راجرو و هنک (Rogeer Houdemakers and Henk A.M.J.) معتقد بودند که مسائل اخلاقی در ارزیابی تکنولوژی، در موارد کمی ایفای نقش می کند. مسائل اخلاقی می تواند در ارزیابی از طریق تغییر روش مسائل تعریف شده و از طریق کشف ارتباط درونی مباحث غیر فنی و فنی از طریق تجزیه و تحلیل خود تکنولوژی، به عنوان یک مساله مداخله کند. نویسندگان فوق الذکر بیان می کنند که مسائل اخلاقی می توانند و باید بتوانند نقش اساسی را در ارزیابی تکنولوژی و مورد سوال قرار دادن مشروعیت خود تکنولوژی ایفا کنند (H.A.M.J, 1995).
به گفته ی آنها،ما با سوال از این شروع میکنیم که آیا تکنولوژی مطلوب است یا لازم؟ آیا ارائه رهنمود هایی برای استفاده اخلاقی، قابل دفاع و مناسب است ؟ خطر اصلی این است که یک تکنولوژی خاص یا توسعه ی تکنولوژیکی محدود شود و یا اینکه یک تکنولوژی بدون بررسی مسائل عارض شده از تکنولوژی، مورد قبول واقع شود. احتمالی که نقطه نظر مهمی را در رابطه با خود تکنولوژی در بر می گیرد، موجب بررسی و ارزیابی سیستم های ارزشی ذاتی تکنولوژی و انواع گوناگون مباحث اخلاقی مرتبط با توسعه ی یک محصول می شود. تکنولوژی های جدید باید قبل از استفاده ارزیابی شوند. در سال های گذشته، کمیسیون اروپا روی نیاز به تنظیم و یکپار چه سازی مسائل اخلاقی در قوانین بیو تکنولوژی تاکید داشته است. همچنین مشارکت فزاینده ی عمومی در فرایند تنظیم، در خواست شده است. در محیط آکادمیک، محققانی نظیر داچ (Ducth) روی نیاز به اخلاقیات در ارزیابی تکنولوژی تاکید داشته اند و روی مدلی برای یکپارچه سازی مشکلات اخلاقی در تحقیقات بیو تکنولوژیکی کار کرده اند. از نظر این محققان، مفاهیم TA و کاربرد عملی آنها بدون در نظر گرفتن مسائل اخلاقی، غیر ممکن است. خارج از زمینه های پزشکی و بیو تکنولوژی، اخلاق نقش خیلی محدودی در TA دارد. بسیاری از گزارشات TAبا تاکید بر نیاز جهت مباحث مهم اخلاقی درباره تکنولوژی جدید خاتمه می یابند اما تلاش کمتری در جهت ایجاد یک روش سیستماتیک ومنظم در ارتباط با این مساله انجام گرفته است (Toulmin, 1993).
گاندر روپول (Gu¨ nther Ropohl) یکی از معدود کسانی است که روی چگونگی یکپارچه سازی اخلاق در فرایند TA عمومی کار کرده است. او اشاره می کند که چارچوب معمولی و عملی او کم و بیش مشابه با TA توسعه داده شده در اوایل 1970 است. به نظر می رسید که رویکرد OTA مفهوم جذابی باشد و بسیاری از انتظارات در آن مدل بر آورده شود. از آن زمان، تلاش چندان جالبی برای شکل دهی مجدد مدل صورت نگرفته است. از آنجایی که کاربردهای اخلاقی ممکن است در همه ی مراحل توسعه تکنولوژیکی صورت بگیرد، یک ارزیابی اخلاقی باید همه ی دوره زندگی تکنولوژی را بررسی کند. به منظور پوشش دادن کل فرایند توسعه ای، ارزیابی باید با R&D اولیه شروع شود و به علاوه شامل پتنت، بازاریابی آزمایش و اثرات آزمایش ها روی افراد و جامعه باشد. هر شکل عملی از TA باید از آمال غیر واقعی اجتناب کند. پیش بینی آینده تکنولوژی، یک ضمانت واهی با شانس موفقیت پایین است. بنابراین، ارزیابی اخلاقی تکنولوژی باید از آرزوهای واهی اجتناب کند. فرایند ارزیابی اخلاقی تکنولوژی می تواند از راه تعامل نزدیک با توسعه دهندگان انجام شود. آنها دانش فنی لازم را دارا هستند اما اغلب برای شناسایی مشکلات اخلاقی تکنولوژی در گام های اولیه، آمادگی لازم را ندارند. از آنجایی که دانش کامل در باره ی تکنولوژی مورد بررسی لازم است، بینش CTA با تاکید بر نقش ارزیابی تعاملی، باید مورد استفاده واقع شود. ترجیحا چون ETA شامل توسعه ی تکنولوژی های جدید می شود، بنابراین بینش های کسب شده می توانند روی طراحی تکنولوژی به این روش تاثیر بگذارند. شانس شکل گیری اجتماعی تکنولوژیکی افزایش خواهد یافت، تاخیر فرهنگی می تواند تاحدودی کاهش یابد و تکنولوژی های جدید می توانند بهتر با محیط اجتماعی تطبیق داده شوند. همچنین می توانیم درس های مهمی از PTA یاد بگیریم. یک درس مهم در PTA اهمیت درگیری ذینفعان مرتبط است. یک ETA (ارزیابی تکنولوژی محیطی) باید همه ذینفعان را شناسایی کند و نتایج ETA تاحد ممکن وسیع باشد. استراتژی های مشارکت و ارتباطات بسته به گروه های اجتماعی خاص که باید مورد توجه واقع شود، انتخاب و طراحی تکنولوژی های آینده نباید به نخبگان خاص و تحصیل کرده محدود شود. وظیفه ی اصلی ETA پیدا کردن و مشخص کردن جنبه های اخلاقی تکنولوژی نو پدید است. این دانش می تواند در فرایند طراحی تکنولوژی بکار گرفته شود. همچنین می تواند به عنوان پایه ای برای تصمیم گیری برای تکنولوژی های مطرح شده بکار گرفته شود (Hansson, 2004).
4- رویکرد فهرست (چک لیست)
وظیفه ی اولیه ETA شناسایی مباحث اخلاقی بالقوه در ارتباط با تکنولوژی جدید است. با تجزیه و تحلیل تجربه هایی از تکنولوژی های مدرن آمیخته شده با مباحث اخلاقی، چک لیستی را توسعه می دهیم که اغلب مشکلات متداول را پوشش می دهد. حتی اگر تکنولوژی های جدید باعث مباحث اخلاقی جدید شود، تجربه ی تاریخی می تواند به ما کمک کند تا حوزه ی مشکلات متداول را مشخص کنیم چک لیست می تواند به عنوان یک سیستم پیش آگاهی دهنده عمل کند تا مشکلات متداول را در گام های ابتدایی در توسعه تکنولوژی مشخص کنیم. موارد زیر نوع مقدماتی چک لیست اخلاقی است:
1- اشاعه و استفاده از اطلاعات
2- کنترل، نفوذ و قدرت
3- اثر روی الگوهای تعامل اجتماعی
4- حریم خصوصی
5- پایداری
6- باز¬تولید انسان
7- جنسیت، اقلیت ها و عدالت
8- روابط بین الملل
9- اثر روی ارزش های انسانی
این چک لیست قصد دارد مباحث اخلاقی را که در مورد تکنولوژی های جدید مطرح است، بپوشاند.
به علاوه آزمایش مواد مخدر و غربال های ژنتیکی کارگران، سوالات اخلاقی جدی در ارتباط با زندگی خصوصی ایجاد کرده است. دلایل خوبی برای این باور وجود دارد که کار کردن تحت نظارت دقیق، باعث افزایش استرس و کاهش کارایی می شود. محیط نظارتی و نظارت توسط اینترنت، هر دو، آزادی فردی را که پایه جوامع دموکراتیک است، مورد تهدید قرار می دهد (Hansson, 2005).
ارزیابی اخلاقی تکنولوژی در نظر دارد که یک رویکرد واقعی و متعادل برای خود تکنولوژی و توسعه دهندگان تکنولوژی باشد و فقط برای تصمیم گیری سیاسی به کار نمیرود. ارزیابی اخلاقی تکنولوژی قصد دارد که مشکلات اخلاقی بالقوه تکنولوژی را از طریق گفتگوی مستمر به جای ارزیابی مقطعی تکنولوژی شناسایی کند. این کار نباید با هیچ تئوری روانی خاصی در گیر شود، بلکه باید روی نقطه نظر ها، علایق و راه حل های مختلف باز باشد. دانشمندان علوم اجتماعی معتقدند که یک فرصت خوب برای برقراری یک دیالوگ سازنده با توسعه دهندگان تکنولوژی وجود دارد. به این دلیل، آنها نیز علاقمندند ازکار برد های اجتماعی منفی اجتناب کنند، هم به دلایل اقتصادی و هم به دلایل استراتژیک. ارزیابی اخلاقی تکنولوژی به طور موفقیت آمیزی می تواند این کار را انجام دهد.
منابع فارسی و لاتین:
[1] تافلر،آلوین، شوک آینده(1372)،ترجمه حشمت الله کامرانی،(تهران،نشرسیمرغ)
[2] G. Ropohl, Ethik, (1996). und Technikbewertung, Suhrkamp Verlag, Frankfurt am Main, 168 pp.
[3] G.C. Kunkle(1995). New challenge or the past revisited? The office of technology assessment in historical context, Technol. Soc.17(2) 175-196.
[4] http://www.europarl.eu.int/stoa/default _en.htm?redirected=1.
[5] G. Ropohl, Ethik,(1996). und Technikbewertung, Suhrkamp Verlag, Frankfurt am Main, 172 pp.
[6] E. Kowalski, Mo¨ glichkeiten (1994). und Grenzen des Technology Assessment, Schweizerischer Wissenschaftsrat, Bern, TA
[7] S. Goonatilake(1994). Technology assessment: some questions from a developing country perspective, Technol. Forecast. Soc.Change 45 63-77.
[8] http://www.imf.org/external/np/exr/facts/sia.htm.
[9] L. K Klu¨ver, M. Nentwich, W. Peissl, H. Torgersen, F. Gloede, L. Hennen, J. van Eijndhoven, J. van Est, S. Joss, S.Belucci, D. Bu¨ tschi (2000). European participatory technology assessment, Participatory Methods in Technology Assessment and Technology Decision-Making, Report to the European Commission, downloaded from www.tekno.dk/europta inJanuary 2001.
[10] همان منبع 1
[11] J. Schot (1998). Constructive technology assessment comes of age, in: A. Jamison (Ed.), The Birth of New Politics of Technology, in Technology Policy Meets the Public, Aalborg University.
[12] R. Clarke(1998). Privacy Impact Assessments, from: http://www.anu.edu.au/people/Roger.Clarke/DV/PIA.html,1998.
[13] C. Bennett, Computers(1991). personal data and theories of technology: comparative approaches to privacy protection in the1990s, Sci. Technol. Human Values 16 (1) 51-69.
[14] W.F. Ogburn (Ed.), Social Change with Regard to Cultural and Original Nature, NY, 1996.
[15] Metcalfe,S.,1995.The Economic Foundations of Technology Policy:Equilibrium and Evolutionary Perspectives,in P.Stoneman,ed.,Handbook of the Economics of Innovation and Technical Change,pp.409-512,Blackwell,London
[16] همان منبع 10
[17] R. Reuzel (2004). Interactive technology assessment of paediatric cochlear implantation, Poiesis and Praxis: International Journal of Technology Assessment and Ethics of Science 2 119-137;
[18] H.A.M.J. ten Have(1995). Medical technology assessment and ethics, ambivalent relations, Hastings Cent. Rep. 25 (5) 13-19 (p. 18).
[19] S. Toulmin, The tyranny of principles - regaining the ethics of discretion, Hastings Cent. Rep. 11 (1981) 31-38; D. Heyd (1996). Experimenting with embryos: can philosophy help? Bioethics 10 292-309; W. Kymlicka, Moral philosophy and public policy: the case of the new reproductive technologies, Bioethics 7 (1993) 1-26.
[20] S.O. Hansson(2004). Weighing risks and benefits, Topoi 23 145-152.
[21] D. Johnson(1994). Computer Ethics, Prentice Hall.
[22] S.O. Hansson, E. Palm ( 2005). The Ethics of Workplace Privacy, P.I.E. Lang.
[23] G. Bruntland (1987). Our Common Future: The World Commission on Environment and Development, Oxford University Press.
[24] U. Beck, Risk Society(1992). Towards a new modernity, Sage, London.
[25] H.A.M.J. ten Have (1995). Medical technology assessment and ethics, ambivalent relations, Hastings Cent. Rep. 25 (5) 13-19.
[26] D.M. Bruce, Stem cells(2002). embryos and cloning - unravelling the ethics of a knotty debate, J. Mol. Biol. 319 917-925.
[27] P. Barroso, Ethical problems generated by the use of informatics in medicine, in: G. Collste (2000). Ethics in the Age ofInformation Technology, Centre for Applied Ethics, Studies in Applied Ethics, vol. 7, Linko¨ pings Universitet.
www.hccmr.com
ارسال توسط کاربر : amirpetrucci0261
/ع
تکنولوژی های جدید، اغلب مشکلات اخلاقی ناشناخته ای را موجب می شود و سال ها طول می کشد تا اثرات آن در جامعه مشخص شود. ما در این مقاله شکل جدیدی از ارزیابی تکنولوژی را که روی مفاهیم اخلاقی تکنولوژی های جدید تمرکز دارد (ارزیابی اخلاقی تکنولوژی) ((Ethical Technology Assessment (ETA) مورد بررسی قرار می دهیم. ارزیابی اخلاقی تکنولوژی که به عنوان وسیله ای برای شناسایی اثرات منفی تکنولوژی های جدید در گام های اولیه عمل می کند، عهده دار گفتگو با توسعه دهندگان تکنولوژی است، شکلی از گفتگوی مستمر است و یک ارزیابی مقطعی و موقتی نیست.
در این مقاله بحث خواهیم کرد که اشکال رایج در ارزیابی تکنولوژی نیاز دارند با نوع جدیدی از ارزیابی تکنولوژی، یعنی ارزیابی اخلاقی تکنولوژی تکمیل شوند که هدفش، تهیه ی شاخص های منفی مفاهیم اخلاقی در اولین گام توسعه ی تکنولوژی است. متدولوژی که ما ارئه می دهیم، بر مبنای فهرست (چک لیست) اخلاقی است که 9 گروه مهم از مباحث را مشخص می کند و باید هنگام توسعه و بکار گیری تکنولوژی مدنظر قرار گیرد.
در بخش 2 این مقاله، توسعه های قبلی در ارزیابی تکنولوژی با تاکید بر کمبود هایی که در طرح حاضر مطرح شده است، خلاصه شده اند. در بخش 3 ، بحث مربوط به لزوم نیاز به ارزیابی اخلاقی تکنولوژی مطرح می شود. در فصل 4 فهرست (چک لیست) اخلاقی معرفی شده و در نهایت در فصل 5 نتایج نهایی پژوهش بیان می شود.
1-مقدمه
آهنگ پر شتاب تغییر را می توان ناشی از عوامل متعددی دانست. رشد جمعیت و شهر نشینی و تغییر شدید نسبت جمعیت جوانان به پیران، هر کدام در این امر نقش دارند. اما پیشرفت تکنولوژیکی به وضوح کانون اصلی و حیاتی همه علل به شمار می رود و در واقع همین کانون است که تمام عوامل دیگر را به حرکت در می آورد. بنابراین یکی از تدابیر موثر در راه مبارزه برای جلو گیری از شوک فراگیر آینده، عبارت است از تنظیم آگاهانه پیشرفت تکنولوژیکی. ما نه می توانیم و نه درست است که پیشرفت تکنولوژیکی را متوقف کنیم. تنها عده ای آدم خیال پرداز درباره بازگشت به طبیعت سخن سرایی می کنند. بازگشت به طبیعت یعنی حالتی که در آن نوزادان به دلیل نبودن مراقبت های اولیه پزشکی می خشکند و می میرند؛ حالتی است که در آن سوء تغذیه، ذهن را خرفت می سازد. همان طور که هابس خاطر نشان می کند، حالتی است که در آن، زندگی معمولی و همگامی، فقیرانه ، ناپسند، ددمنشانه و کوتاه است. پشت کردن به تکنولوژی نه تنها ساده¬لوحانه، بلکه عملی است ضد اخلاقی. در عین حال تردیدی در این نیست که ما اغلب تکنولوژی جدید را به نحو خودخواهانه ای بکار می بریم و در شتاب خود برای بهره مندی فوری از تکنولوژی در زمینه پیشرفت اقتصادی، محیط زندگی خود را به صورت یک بشکه باروت در آوردهایم. قدرت تکنولوژیکی ما روز بروز افزایش پیدا می کند و لی آثار جانبی و مخاطرات بالقوه آن نیز روز بروز بیشتر می شود. ما در معرض خطر آلودگی حرارتی اقیانوس ها، یعنی گرم شدن بیش از حد آنها، از بین رفتن حیات در دریاها و شاید حتی ذوب شدن یخ های قطبی قرار گرفته ایم. با مشخص و نمایان شدن آثار و عواقب هراس آور و شوم استفاده غیر مسئولانه از تکنولوژی، واکنش سیاسی نیز شدت می گیرد.
ما شدیدا نیازمند جنبشی برای یک تکنولوژی مسئول و متعهد هستیم. ما به یک سیاست وسیع نیازمندیم تا تحقیقات علمی و پیشرفت تکنولوژیکی را فقط بر اساس گزینش، پیشرفت دهد. این گروه بجای تلف کردن نیروی خود بر سر نفی ماشین، باید سلسله اهداف تکنولوژیکی و مثبتی را برای آینده تدوین کند. امروزه ما با واقعیت خطرناک تری روبروشده ایم و آن اینکه بسیاری از مصایب اجتماعی، بیشتر نتیجه فقدان ستمگرانه کنترل است تا کنترل ستمگرانه. واقعیت هولناک آن است که هر چه به مسئله تکنولوژی مینگریم، کسی را نمی یابیم که او را مقصر بدانیم. به این ترتیب، بین جامعه ای که پیشرفت تکنولوژی را با حسن انتخاب تحت اختیار می گیرد و جامعه ای که کورکورانه هر فرصتی را غنیمت می شمارد و به آن لبیک می گوید، به سرعت تفاوت های اساسی بروز می کند.
2- توسعه ارزیابی تکنولوژی
در دهه ی 1960 تقاضا برای مسئولیت اجتماعی بیشتر، در توسعه ی تکنولوژی افزایش یافت و این تقاضاها عمدتا از افزایش آگاهی عمومی درباره ی مشکلات زیست محیطی و اجتماعی که تکنولوژی های جدید به وجود می آوردند، ناشی می شد. حادثه ای که در هنگام حفر چاه نفت در اقیانوس آرام رخ داد و 800 میل مربع از دریا را آلوده کرد، خشم تمام مردم ایالات متحده ی امریکا را بر انگیخت. یک کارخانه دار ثروتمند نوادایی به نام «هوارد هیوز» شکایتی در دادگاه مطرح کرد تا مانع ادامه ی آزمایش های هسته ای کمیسیون انرژی اتمی در زیر زمین شود. در دانشگاه های ام.آی.تی، کرونل و بقیه، دانشمندان با وقفه در تحقیقات، لوله های آزمایش و خط کش های محاسباتی خود را کنار گذاشتند و دور هم جمع شدند تا درباره آثار و نتایج کار خود به بحث بپردازند (کامرانی، 1372). ظهور ارزیابی تکنولوژی سازمان یافته و منسجم، اولین تلاش برای بدست آوردن کنترل سیاسی روی اثرات منفی توسعه ی تکنولوژی از راه پیش آگاهی بود. فرض می شد که TA می تواند نتایج منفی نوآوری فنی را به منظور تسهیل تصمیم گیری سیاسی پیش بینی کند و انتظارات عمومی این بود که TA بتواند برنامه ی آینده تکنولوژی جدید را آشکار سازد.
اصطلاح «ارزیابی تکنولوژی» برای اولین بار در سال 1966 از سوی فیلیپ یاگر (PhilipYeager) که برای سیاستمداران امریکا کار می کرد، مطرح شد تا پایه های تصمیم گیری سیاسی در زمینه ی ملاحظات توسعه ی تکنولوژیکی را بهبود بخشد. او آژانسی را برای کمک به تعیین پیامد های تکنولوژی ایجاد کرد تا به ارتقای اثرات مثبت و کاهش اثرات منفی تکنولوژی کمکی کرده باشد (Ropohl, 1996, 168p). به تبع آن در سال 1972 اداره ی ارزیابی تکنولوژی(OTA) آمریکا ایجاد شد. این نهاد به عنوان اولین موسسه بر آن شد که استاندارد هایی را برای ارزیابی تکنولوژی برای 2 دهه بنیان گذارد. این اداره که توسط کنگره ی امریکا ایجاد شد، پاسخی بود به نیاز به یک نهاد مشخص با وظیفه تجزیه و تحلیل و پیش بینی توسعه ی تکنولوژی. تعدادی از مباحث سیاسی بحث برانگیز نظیر سرمایه گذاری ایالات متحده امریکا در حمل ونقل مافوق صوت، سیستم موشک ضد بالستیک و خط لوله ی ارتباطی آلاسکا در ایجاد OTA مشارکت داشتند (Kunkle, 1995). ارزیابی های OTA پیشنهادهای خاصی را ارائه نمی دهند اما در عوض گزینه ها را مشخص کرده و نتایج شقوق جایگزین را روشن می سازند. از آنجایی که گزارش ها وقت گیر و پر هزینه بودند، کار مهم، گزینش از بین ارزیابی های مورد تقاضا و تعریف حیطه ی هر کدام از مسائل بود.
OTA در سال 1995 تعطیل شد و تا آن زمان آژانس بالغ بر 700 گزارش در موضو ع هایی وسیع، مرتبط با علم و تکنولوزی منتشر کرده بود. بعد از آن سهم عمده در فعالیت های TA در دست آلمان بود.
امروزه موسسات تحقیقی مستقل (موسسات ارزیابی تکنولوژی و تجریه و تحلیل سیستم) هم در آلمان و هم در سطح بین المللی در حال فعالیت هستند (www.europarl.eu.int). به علاوه چندین کشور اروپایی از 1990 ، ادارات TA پارلمانی در درون اتحادیه ایجاد کرده اند. TA از چندین جهت مورد انتقاداست؛ یکی از انتقادهای معمول این است که TA جاه طلبی های غیر واقعی برای پیش بینی توسعه ی تکنولوژی در آینده دارد. یکی دیگر از انتقادهای متداول این است که ارزیابی تکنولوژی، هزینه بر است (Ropohl, 1996, 172p)
یکی از بحث ها ی مطرح شده این است که شکل و نتیجه ی فعالیت های TA به جای ارتباط با نیاز های اجتماعی و واقعی جامعه، به طور زیادی به علایق سیاسی رایج بستگی دارد.
ارزیابی های توسعه تکنولوژیکی و خلاقیت ها می توانند به عنوان حربه رقابتی عمل کنند. گزینش تکنولوژی هایی که مورد ارزیابی قرار گیرند، مهم ترین موضوع ارزیابی است. بنابراین، انتخاب مباحث برای ارزیابی، در تعیین حوزه ی ارزیابی تاثیر زیادی دارد .(Kowalski, 1994)
مطالعات TA جاری در جهان غرب پدیدارشده و شکل گرفته و با توجه به شرایط سیاسی و اجتماعی آن حوزه تعریف شده و در آن علاقه ها و سلیقه های غیر غربی خیلی کم مورد نظر قرار گرفته است. مشکل عمومی در ارزیابی تکنولوژی، برداشتن گام های مساوی با توسعه ی تکنولوژیکی است. از همان ابتدای شروع TA انتظار می رفت که TA بتواند پیامدهای آینده ی تکنولوژی جدید را آشکار کند. در حقیقت ارزیابی های تکنولوژیکی خیلی کمتر به اثرات اجتماعی تکنولوژی پرداخته اند. هر چند که بسیاری از ارزیابی های تکنولوژیکی با اهداف برنامه ریزی شده، برای پوشش دادن ابعاد قانونی، اخلاقی، روانشناسی، اقتصادی و اخلاقی تکنولوژی آغاز شده، نتایج نهایی آن ضعیف بوده است (Goonatilake, 1994). با تمام این مباحث، موفق ترین نوع TA تجزیه و تحلیل اثر محیطی تکنولوژی است. در حالی که TA عمومی معمولا یک تکنولوژی و یا روش تکنولوژیکی را مورد ملاحظه قرار می دهد، ارزیابی تکنولوژی محیطی و تجزیه و تحلیل ریسک فقط یک کاربرد خاص از تکنولوژی، مثل یک کارخانه یا یک محصول خاص را مورد نظر قرار می دهد. این گونه ارزیابی ها، از تجزیه و تحلیل اثرات غیر مستقیم تکنولوژی های مورد بررسی خودداری می کنند. بنابراین بخش عمده ی نیاز به تجزیه و تحلیل اخلاقی پیامدهای تکنولوژی حذف می شود. بررسی تخصصی پیامد های اجتماعی تکنولوژی به نام تجزیه و تحلیل اثر اجتماعی (Social Impact Analysis (STA انجام می شود و غیرمتداول است (www.imf.org). در دهه ی 1980 ارزیابی مشارکتی تکنولوژی participatory Technology Assessment (PTA) به عنوان یک جایگزین برای TA سنتی مطرح شد، مخصوصا در دانمارک و هلند؛ و این یک عکس العمل در مقابل تقاضای حیطه ی بزرگتر برای نفوذ عمومی و مشارکت در تصمیم گیری بود که طیف وسیعی از فعالان را نسبت به TA سنتی شامل می شد، مثل سیاستمداران، اتحادیه های تجاری، ژورنالیست ها، دانشمندان، توسعه دهندگان تکنولوژی و مردم. با این وجود، به طور عمده تمرکزش مثل TA سنتی است؛ یعنی در حد پیش آگاهی زود هنگام تکنولوژی های جدید و پیامد های اجتماعی آن و تسهیل کردن تصمیم گیری سیاسی درباره اثرات بالقوه منفی تکنولوژی های جدید.(kluver, 2000)
آزمایشات وسیعی که در ایالات متحده امریکا و سوئد و جاهای دیگر انجام گرفته، حاکی از آن است که احتمالا در آینده می توان هوش و توانایی های انسان را در زمینه ی بررسی اطلاعات افزایش داد. تحقیقات در زمینه ی بیو شیمی و اصول تغذیه نشان می دهد که پروتئین RNA و سایر مواد قابل دستکاری، با حافظه و یادگیری ارتباط دارند و تلاش وسیعی برای گذشتن از موانع و حد و حدود هوش، به بهبود حیرت انگیز انطباق پذیری انسان می انجامد. چه بسا آن لحظه ی تاریخی برای بسط و شکوفایی انسان، یعنی جهشی به سوی یک ارگانیزم فرا انسانی رسیده باشد. اما عواقب این کار و شقوق مختلف آن چه خواهد شد؟ چه وقت چنین دنیایی را می خواهیم؟ چه کسانی باید به آنها دسترسی داشته باشند؟ و چه کسانی نباید دسترسی داشته باشند؟ آیا می توان معالجات بیو شیمی را در مورد عقب ماندگان ذهنی بکار بست و آنان را به صورت انسان های طبیعی در آورد؟ آیا این مداواها را باید برای ارتقای افراد متوسط بکار برد و یا باید آنها را برای ساختن افرادی بهتر از نوابغ مورد استفاده قرار داد؟(کامرانی، 1372).
کنسول دانمارکی تکنولوژی برنامه ای را برای PTA (ارزیابی مشارکتی تکنولوژی) به وسیله تاکیدش روی مشارکت و تجاربش با متد های مختلف برای انواع فعالان شرکت کننده ارائه داد. گروه های متمرکز، پانل های آینده و کنفرانس هایی برای اجماع و گفتگو، تعدادی از متد های مشارکت هستند که گسترش یافته اند؛ کنفرانس های مردم عادی و کنفرانس های هم رایی به طور معمول در مباحث بحث انگیز بکار برده شده و بیشتر در ارتباط با بیو تکنولوژی و تکنولوژی ژن بوده است. در اواسط دهه ی 1980 رشته ی TA با ترکیبی از ارزیابی سازنده و ارزیابی خلاقانه که هر دو روی تعامل با توسعه دهندگان تکنولوژی برای تاثیر گذاشتن روی مسیر توسعه تکنولوژی متمرکز بودند، رنگ فنی به خود گرفت. ایده اصلی در CTA (ارزیابی سازنده تکنولوژی) (Constructive Technology Assessment ) طراحی فرایندی است برای در بر گرفتن اثراتی که به وسیله تکنولوزی ایجاد می شود. از این رو شبکه هایی از فعالان توسعه ی تکنولوژی شامل سیاست ها، علایق سازمان یافته و کاربران واقعی تکنولوژی ایجاد شدند (Schot, 1998).
CTA (ارزیابی سازنده تکنولوژی ) مرتبط با طراحی فرایندی است که سعی در بهبود روش یادگیری دارد که این نوع ارزیابی از آلمان شروع و در هلند صورت گرفته شده است. تعدادی از موسسات برای ارزیابی تکنولوژی پزشکی در کشور های مختلف که ارزیابی تکنولوژی سلامت Health Technology Assessment (HTA ) نامیده می شود، ایجاد شده اند. یک دلیل مهم راجع به اینکه چرا TA جایگاه مهمی در حوزه پزشکی نسبت به سایر حوزه ها دارد، این است که آنهایی که به عملیات پزشکی می پردازند، مثل دولت ها و کمپانی های بیمه، مشکلات زیادی در پایین آوردن هزینه ها دارند. آنها همچنین انگیزه ها و مشوق هایی قوی برای جلو گیری از همگانی شدن تکنولوژی های جدید دارند، قبل از اینکه سلامت آنها اثبات شود (Clarke, 1998). شکل تخصصی تر TA که در دهه های گذشته تاثیر گذار بوده، ارزیابی اثر بر زندگی خصوصی است که هدف اصلی آن، تجزیه و تحلیل و ارزیابی اثرات بالقوه ی تکنولوژی روی زندگی خصوصی است. اولین PTA (ارزیابی مشارکتی تکنولوژی) در سال 1970 ایجاد شد ولی تا سال 1990 جا نیفتاده بود. دولت کانادا چارچوبی را برای ارزیابی تاثیر تکنولوژی روی زندگی خصوصی ایجاد کرد. هدف از این نوع PTA کمک به بخش ها و آژانس ها برای روشن ساختن این نکته است که آیا تکنولوژی های جدید، سیستم های اطلاعاتی، سیاست ها و نیازمندی های زندگی خصوصی را بر آورد می کند (Bennett, 1991).
3- نیاز برای ارزیابی اخلاقی تکنولوژی
پیچیدگی های تکنولوژی و پتانسیل آن برای تصادم با جامعه، سردرگمی و ترس از تکنولوژی ایجاد کرده¬است. تکنولوژی آنقدر پیشرفت کرده و پیچیده شده است که بعضی افراد، از مشارکت در تصمیمات برای بکار گیری تکنولوژی جدید خودداری می کنند؛ زیرا احساس می کنند که فاقد بینش لازم برای پاسخ به سوالات مقتضی هستند.
باید باور کنیم که توسعه دهندگان تکنولوژی، از همه ی ابعاد تاثیر محصولات شان آگاه نیستند. در بسیاری از موارد، اثرات منفی تکنولوژی، خود توسعه دهندگان تکنولوژی را نیز متعجب می کند. اگر آنها بتوانند پیامد های منفی را پیش بینی کنند، در اکثریت مواقع خواهند توانست بهترین کار را برای اجتناب از این اثرات منفی انجام دهند؛ هم به خاطر ملاحظات اجتماعی و هم به خاطر ملاحظات تجاری و یا هر دو آنها. یک دلیل برای شناسایی و توجه به مباحث اخلاقی در توسعه ی تکنولوژی، فقدان آموزش است. مهندسان به ندرت برای به بحث گذاشتن مباحث اخلاقی آموزش داده می شوند تا از طریق آموزش بتوانند پیامد ها را برای ذینفعان مختلف در گام های اولیه شناسایی کنند. متعاقبا توسعه دهندگان تکنولوژی و جامعه در مسئولیت برای سر و کار داشتن با مباحث اخلاقی که با تکنولوژی های جدید گره خورده است، سهیم هستند.
اما مساله دیگر، تاخیر فرهنگی است. تاخیر فرهنگی دوره ای است بین اختراع تکنولوژی جدید و نقطه ای از زمان که فرهنگ غیر مادی پاسخ به آن را تثبیت کرده است. مذهب، اخلاق، فلسفه، سیستمهای اعتقاد، ارزش ها و قوانین، مثال هایی از فرهنگ غیر مادی هستند (Ogburn, 1996).
تکنولوژی های جدید اغلب با مشکلات اخلاقی ناشناخته و تضادها مواجه می شوند و معمولا سال ها طول می کشد تا تکنولوژی های جدید بتوانند با جوامع عجین شده و مورد قبول واقع شوند. مورد معروف در این زمینه که می تواند مثال خوبی باشد، «کارن آن کوئین لان» سال 1976 است . والدین او اعتقاد داشتند تکنولوژی حیات بایستی از بدن او کشیده شود؛ چرا که سودی برای دختر آنها نداشت. بعد از بحث های اخلاقی و قضایی زیاد، دادگاه عالی اجازه داد که دستگاه نگه دارنده حیات را بکشند؛ هر چند که کارن بعد از برداشتن دستگاه اکسیژن نفس می کشید و به مدت 10 سال در کما ماند. این مورد باعث ایجاد سوالاتی همانند اینها شد که: چگونه تکنولوژی های حمایت کننده ی حیات، باید بکار برده شوند؟ آیا مراقبت شوندگان به طور روحی ملزم به تمدید حیات شده اند؟ کسانی که مغز شان مرده است، زنده اند یا مرده ؟ (Metcalfe, 1995). پیشرفت های سریع در کار پزشکی بی شک تغییرات عمیقی در شیوه ی اندیشیدن و روش مراقبت از بیماران پدید آورده و مسائل حقوقی، اخلاقی و فلسفی جدید و خطیری را نیز باعث شده است؛ مثلا مرگ چیست؟ آیا مرگ همان گونه که به طور سنتی فکر می کردیم وقتی فرا می رسد که قلب از حرکت باز ایستد و یا نه، وقتی پیش می آید که دیگر مغز کار نکند؟ اکنون در بیمارستان ها، بیماران بسیاری هستند که با پیشرفت تکنیک های پزشکی میتوانند زنده بمانند و مثل گیاهان به یک زندگی نباتی و بی خبر از همه چیز ادامه دهند. اگر ما چنین شخصی را محکوم به مرگ کنیم و اعضای سالم بدن او را برای پیوند زدن و نجات دادن زندگی بیمار دیگری که بیشتر از دیگری امکان زیستن دارد، مورد استفاده قراردهیم، حکم اخلاق در این میان چیست؟
پروفسور وایت (Wait) معتقد است که ما نه تنها می توانیم سر یک انسان را به تن انسان دیگر پیوند بزنیم، نه تنها می توانیم کاری کنیم که یک سر و یا مغز مستقل زنده بمانند و به حیات خود ادامه دهند، بلکه حتی تکنیک های موجود، این کارها را امکان پذیر می سازد. او می گوید که در واقع ژاپنی ها نخستین کسانی خواهند بود که یک سر جدا شده ی انسان را زنده نگه می دارند. او می گوید: من خود چنین کاری نخواهم کرد زیرا هنوز این معما را برای خودم حل نکرده ام که آیا این کار درستی است یا نه؟ دکتر وایت که کاتولیک متعصبی است، از نتایج و عواقب فلسفی و اخلاقی این کار بسیار ناراحت است (کامرانی، 1372). این مباحث اخلاقی به وسیله افراد با تجربه در پزشکی، قانونگذاران، فیلسوفان، طلبه ها و عموم توسعه یافته اند. در بسیاری موارد دیگر، خطوط راهنمای اخلاقی در نتیجه ی پاسخ به تکنولوژی های جدید توسعه یافته اند.
هر چند ظهور هم رایی های اخلاقی طول می کشد، اما از آنجایی که بحث های اخلاقی، قسمت ضروری تطبیق و تغییر جامعه هستند، سوالات اخلاقی در رابطه با کاربردهای تکنولوژی های آینده باید در گام های اولیه مطرح شوند تا از شکاف فرهنگی کاسته شود. وظیفه ی مهم، وارد شدن در بحث های منطقی اخلاقی قبل از وارد شدن به مرحله ی پیاده سازی است. سوالات اخلاقی زیادی ناشی از تکنولوژی مدرن در زمینه ی پزشکی و بیو تکنولوژی مطرح شده است. ارزیابی تکنولوژی سلامت ابتدا مرتبط با روش های رفتاری جایگزین در قالب کار آیی و اثرات فرعی و هزینه ها است تا کاربردهای اخلاقی (Reuzel, 2004). در زمینه ی پزشکی، راجرو و هنک (Rogeer Houdemakers and Henk A.M.J.) معتقد بودند که مسائل اخلاقی در ارزیابی تکنولوژی، در موارد کمی ایفای نقش می کند. مسائل اخلاقی می تواند در ارزیابی از طریق تغییر روش مسائل تعریف شده و از طریق کشف ارتباط درونی مباحث غیر فنی و فنی از طریق تجزیه و تحلیل خود تکنولوژی، به عنوان یک مساله مداخله کند. نویسندگان فوق الذکر بیان می کنند که مسائل اخلاقی می توانند و باید بتوانند نقش اساسی را در ارزیابی تکنولوژی و مورد سوال قرار دادن مشروعیت خود تکنولوژی ایفا کنند (H.A.M.J, 1995).
به گفته ی آنها،ما با سوال از این شروع میکنیم که آیا تکنولوژی مطلوب است یا لازم؟ آیا ارائه رهنمود هایی برای استفاده اخلاقی، قابل دفاع و مناسب است ؟ خطر اصلی این است که یک تکنولوژی خاص یا توسعه ی تکنولوژیکی محدود شود و یا اینکه یک تکنولوژی بدون بررسی مسائل عارض شده از تکنولوژی، مورد قبول واقع شود. احتمالی که نقطه نظر مهمی را در رابطه با خود تکنولوژی در بر می گیرد، موجب بررسی و ارزیابی سیستم های ارزشی ذاتی تکنولوژی و انواع گوناگون مباحث اخلاقی مرتبط با توسعه ی یک محصول می شود. تکنولوژی های جدید باید قبل از استفاده ارزیابی شوند. در سال های گذشته، کمیسیون اروپا روی نیاز به تنظیم و یکپار چه سازی مسائل اخلاقی در قوانین بیو تکنولوژی تاکید داشته است. همچنین مشارکت فزاینده ی عمومی در فرایند تنظیم، در خواست شده است. در محیط آکادمیک، محققانی نظیر داچ (Ducth) روی نیاز به اخلاقیات در ارزیابی تکنولوژی تاکید داشته اند و روی مدلی برای یکپارچه سازی مشکلات اخلاقی در تحقیقات بیو تکنولوژیکی کار کرده اند. از نظر این محققان، مفاهیم TA و کاربرد عملی آنها بدون در نظر گرفتن مسائل اخلاقی، غیر ممکن است. خارج از زمینه های پزشکی و بیو تکنولوژی، اخلاق نقش خیلی محدودی در TA دارد. بسیاری از گزارشات TAبا تاکید بر نیاز جهت مباحث مهم اخلاقی درباره تکنولوژی جدید خاتمه می یابند اما تلاش کمتری در جهت ایجاد یک روش سیستماتیک ومنظم در ارتباط با این مساله انجام گرفته است (Toulmin, 1993).
گاندر روپول (Gu¨ nther Ropohl) یکی از معدود کسانی است که روی چگونگی یکپارچه سازی اخلاق در فرایند TA عمومی کار کرده است. او اشاره می کند که چارچوب معمولی و عملی او کم و بیش مشابه با TA توسعه داده شده در اوایل 1970 است. به نظر می رسید که رویکرد OTA مفهوم جذابی باشد و بسیاری از انتظارات در آن مدل بر آورده شود. از آن زمان، تلاش چندان جالبی برای شکل دهی مجدد مدل صورت نگرفته است. از آنجایی که کاربردهای اخلاقی ممکن است در همه ی مراحل توسعه تکنولوژیکی صورت بگیرد، یک ارزیابی اخلاقی باید همه ی دوره زندگی تکنولوژی را بررسی کند. به منظور پوشش دادن کل فرایند توسعه ای، ارزیابی باید با R&D اولیه شروع شود و به علاوه شامل پتنت، بازاریابی آزمایش و اثرات آزمایش ها روی افراد و جامعه باشد. هر شکل عملی از TA باید از آمال غیر واقعی اجتناب کند. پیش بینی آینده تکنولوژی، یک ضمانت واهی با شانس موفقیت پایین است. بنابراین، ارزیابی اخلاقی تکنولوژی باید از آرزوهای واهی اجتناب کند. فرایند ارزیابی اخلاقی تکنولوژی می تواند از راه تعامل نزدیک با توسعه دهندگان انجام شود. آنها دانش فنی لازم را دارا هستند اما اغلب برای شناسایی مشکلات اخلاقی تکنولوژی در گام های اولیه، آمادگی لازم را ندارند. از آنجایی که دانش کامل در باره ی تکنولوژی مورد بررسی لازم است، بینش CTA با تاکید بر نقش ارزیابی تعاملی، باید مورد استفاده واقع شود. ترجیحا چون ETA شامل توسعه ی تکنولوژی های جدید می شود، بنابراین بینش های کسب شده می توانند روی طراحی تکنولوژی به این روش تاثیر بگذارند. شانس شکل گیری اجتماعی تکنولوژیکی افزایش خواهد یافت، تاخیر فرهنگی می تواند تاحدودی کاهش یابد و تکنولوژی های جدید می توانند بهتر با محیط اجتماعی تطبیق داده شوند. همچنین می توانیم درس های مهمی از PTA یاد بگیریم. یک درس مهم در PTA اهمیت درگیری ذینفعان مرتبط است. یک ETA (ارزیابی تکنولوژی محیطی) باید همه ذینفعان را شناسایی کند و نتایج ETA تاحد ممکن وسیع باشد. استراتژی های مشارکت و ارتباطات بسته به گروه های اجتماعی خاص که باید مورد توجه واقع شود، انتخاب و طراحی تکنولوژی های آینده نباید به نخبگان خاص و تحصیل کرده محدود شود. وظیفه ی اصلی ETA پیدا کردن و مشخص کردن جنبه های اخلاقی تکنولوژی نو پدید است. این دانش می تواند در فرایند طراحی تکنولوژی بکار گرفته شود. همچنین می تواند به عنوان پایه ای برای تصمیم گیری برای تکنولوژی های مطرح شده بکار گرفته شود (Hansson, 2004).
4- رویکرد فهرست (چک لیست)
وظیفه ی اولیه ETA شناسایی مباحث اخلاقی بالقوه در ارتباط با تکنولوژی جدید است. با تجزیه و تحلیل تجربه هایی از تکنولوژی های مدرن آمیخته شده با مباحث اخلاقی، چک لیستی را توسعه می دهیم که اغلب مشکلات متداول را پوشش می دهد. حتی اگر تکنولوژی های جدید باعث مباحث اخلاقی جدید شود، تجربه ی تاریخی می تواند به ما کمک کند تا حوزه ی مشکلات متداول را مشخص کنیم چک لیست می تواند به عنوان یک سیستم پیش آگاهی دهنده عمل کند تا مشکلات متداول را در گام های ابتدایی در توسعه تکنولوژی مشخص کنیم. موارد زیر نوع مقدماتی چک لیست اخلاقی است:
1- اشاعه و استفاده از اطلاعات
2- کنترل، نفوذ و قدرت
3- اثر روی الگوهای تعامل اجتماعی
4- حریم خصوصی
5- پایداری
6- باز¬تولید انسان
7- جنسیت، اقلیت ها و عدالت
8- روابط بین الملل
9- اثر روی ارزش های انسانی
این چک لیست قصد دارد مباحث اخلاقی را که در مورد تکنولوژی های جدید مطرح است، بپوشاند.
1-4- اشاعه و استفاده از اطلاعات
2-4- کنترل، نفوذ و قدرت
3-4- تاثیر روی الگوهای تعامل اجتماعی
4-4- حریم خصوصی
به علاوه آزمایش مواد مخدر و غربال های ژنتیکی کارگران، سوالات اخلاقی جدی در ارتباط با زندگی خصوصی ایجاد کرده است. دلایل خوبی برای این باور وجود دارد که کار کردن تحت نظارت دقیق، باعث افزایش استرس و کاهش کارایی می شود. محیط نظارتی و نظارت توسط اینترنت، هر دو، آزادی فردی را که پایه جوامع دموکراتیک است، مورد تهدید قرار می دهد (Hansson, 2005).
5-4- پایداری
6-4 بازتولید انسان
7-4- جنسیت، اقلیت ها و عدالت
8-4- روابط بین الملل
9-4- اثر روی ارزش های انسانی
5- نتایج
ارزیابی اخلاقی تکنولوژی در نظر دارد که یک رویکرد واقعی و متعادل برای خود تکنولوژی و توسعه دهندگان تکنولوژی باشد و فقط برای تصمیم گیری سیاسی به کار نمیرود. ارزیابی اخلاقی تکنولوژی قصد دارد که مشکلات اخلاقی بالقوه تکنولوژی را از طریق گفتگوی مستمر به جای ارزیابی مقطعی تکنولوژی شناسایی کند. این کار نباید با هیچ تئوری روانی خاصی در گیر شود، بلکه باید روی نقطه نظر ها، علایق و راه حل های مختلف باز باشد. دانشمندان علوم اجتماعی معتقدند که یک فرصت خوب برای برقراری یک دیالوگ سازنده با توسعه دهندگان تکنولوژی وجود دارد. به این دلیل، آنها نیز علاقمندند ازکار برد های اجتماعی منفی اجتناب کنند، هم به دلایل اقتصادی و هم به دلایل استراتژیک. ارزیابی اخلاقی تکنولوژی به طور موفقیت آمیزی می تواند این کار را انجام دهد.
منابع فارسی و لاتین:
[1] تافلر،آلوین، شوک آینده(1372)،ترجمه حشمت الله کامرانی،(تهران،نشرسیمرغ)
[2] G. Ropohl, Ethik, (1996). und Technikbewertung, Suhrkamp Verlag, Frankfurt am Main, 168 pp.
[3] G.C. Kunkle(1995). New challenge or the past revisited? The office of technology assessment in historical context, Technol. Soc.17(2) 175-196.
[4] http://www.europarl.eu.int/stoa/default _en.htm?redirected=1.
[5] G. Ropohl, Ethik,(1996). und Technikbewertung, Suhrkamp Verlag, Frankfurt am Main, 172 pp.
[6] E. Kowalski, Mo¨ glichkeiten (1994). und Grenzen des Technology Assessment, Schweizerischer Wissenschaftsrat, Bern, TA
[7] S. Goonatilake(1994). Technology assessment: some questions from a developing country perspective, Technol. Forecast. Soc.Change 45 63-77.
[8] http://www.imf.org/external/np/exr/facts/sia.htm.
[9] L. K Klu¨ver, M. Nentwich, W. Peissl, H. Torgersen, F. Gloede, L. Hennen, J. van Eijndhoven, J. van Est, S. Joss, S.Belucci, D. Bu¨ tschi (2000). European participatory technology assessment, Participatory Methods in Technology Assessment and Technology Decision-Making, Report to the European Commission, downloaded from www.tekno.dk/europta inJanuary 2001.
[10] همان منبع 1
[11] J. Schot (1998). Constructive technology assessment comes of age, in: A. Jamison (Ed.), The Birth of New Politics of Technology, in Technology Policy Meets the Public, Aalborg University.
[12] R. Clarke(1998). Privacy Impact Assessments, from: http://www.anu.edu.au/people/Roger.Clarke/DV/PIA.html,1998.
[13] C. Bennett, Computers(1991). personal data and theories of technology: comparative approaches to privacy protection in the1990s, Sci. Technol. Human Values 16 (1) 51-69.
[14] W.F. Ogburn (Ed.), Social Change with Regard to Cultural and Original Nature, NY, 1996.
[15] Metcalfe,S.,1995.The Economic Foundations of Technology Policy:Equilibrium and Evolutionary Perspectives,in P.Stoneman,ed.,Handbook of the Economics of Innovation and Technical Change,pp.409-512,Blackwell,London
[16] همان منبع 10
[17] R. Reuzel (2004). Interactive technology assessment of paediatric cochlear implantation, Poiesis and Praxis: International Journal of Technology Assessment and Ethics of Science 2 119-137;
[18] H.A.M.J. ten Have(1995). Medical technology assessment and ethics, ambivalent relations, Hastings Cent. Rep. 25 (5) 13-19 (p. 18).
[19] S. Toulmin, The tyranny of principles - regaining the ethics of discretion, Hastings Cent. Rep. 11 (1981) 31-38; D. Heyd (1996). Experimenting with embryos: can philosophy help? Bioethics 10 292-309; W. Kymlicka, Moral philosophy and public policy: the case of the new reproductive technologies, Bioethics 7 (1993) 1-26.
[20] S.O. Hansson(2004). Weighing risks and benefits, Topoi 23 145-152.
[21] D. Johnson(1994). Computer Ethics, Prentice Hall.
[22] S.O. Hansson, E. Palm ( 2005). The Ethics of Workplace Privacy, P.I.E. Lang.
[23] G. Bruntland (1987). Our Common Future: The World Commission on Environment and Development, Oxford University Press.
[24] U. Beck, Risk Society(1992). Towards a new modernity, Sage, London.
[25] H.A.M.J. ten Have (1995). Medical technology assessment and ethics, ambivalent relations, Hastings Cent. Rep. 25 (5) 13-19.
[26] D.M. Bruce, Stem cells(2002). embryos and cloning - unravelling the ethics of a knotty debate, J. Mol. Biol. 319 917-925.
[27] P. Barroso, Ethical problems generated by the use of informatics in medicine, in: G. Collste (2000). Ethics in the Age ofInformation Technology, Centre for Applied Ethics, Studies in Applied Ethics, vol. 7, Linko¨ pings Universitet.
www.hccmr.com
ارسال توسط کاربر : amirpetrucci0261
/ع