چالش‌های اخلاقی و حقوقی روزمره اتومبیل‌های خودران

تصویر: تصمیماتی که امروز مهندسان اتخاذ می کنند نحوه رانندگی همه خود روها را تعیین خواهد کرد.  Grendelkhan، CC BY-SA
 
بسیاری از بحث ها و تفکرات اخلاقی در مورد اتومبیل های خود ران بر معضلات غم انگیز متمرکز شده است، مانند فرضیه هایی که در آن یک ماشین باید تصمیم بگیرد که گروهی از دانش آموزان را زیر بگیرد یا با پرت شدن از صخره به زیر آب برود و سرنشینان خود را بکشد. اما این نوع شرایط، موارد مفرط و تقریباً استثنائی است.
 
همان طور که جدیدترین تصادف - که در آن یک اتومبیل خود ران یک عابر پیاده را در تمپ، آریزونا کشته است - نشان می دهد، شرایط روزمره و جاری در هر گذرگاه، پیچ و تقاطع، اختلافات اخلاقی بسیار سخت تر و گسترده تری را بروز می دهد.
 

اخلاقیات افراط و تفریطی

به عنوان یک فیلسوف که با مهندسان مرکز تحقیقات خود روی استنفورد کار می کردم، در ابتدا متعجب می شدم که جلسات آزمایشگاهی خود را باید با بحث در مورد آن چه که فکر می کردم یک سؤال آسان است بگذرانم: چگونه یک ماشین خود ران باید به یک گذرگاه نزدیک شود؟
 
تصور من این بود که ما به این فکر خواهیم کرد که یک ماشین چگونه باید بین زندگی مسافرانش و زندگی عابران پیاده تصمیم بگیرد. من می دانستم که چگونه در مورد چنین معضلاتی فکر کنم زیرا این سناریوهای تصادف شبیه ایده یک ایده پرداز معروف فلسفی به نام "مشکل واگن برقی" است. آموزش راننده برای وسایل نقلیه خود ران می تواند اطمینان دهد که رانندگان کاملاً توانایی ها و محدودیت های سیستم را درک می کنند. تصور کنید یک واگن برقی در حال پرت شدن از مسیر است و قطعاً به یک گروه 5 نفره یا یک نفر برخورد می کند - آیا برای نجات 5 نفر یک نفر را می کشید؟
 
با این حال، بسیاری از فلاسفه امروزه تردید دارند که بررسی چنین سؤالاتی راهی پر بار برای تحقیق است. به عنوان مثال باربارا فرید، یکی از همکاران در استنفورد ، استدلال می کند که معضلات غم انگیز باعث می شود مردم باور کنند که اختلافات اخلاقی عمدتاً در شرایط وخیم و سخت به وجود می آید.
 
در حقیقت، اختلافات اخلاقی در همه جا وجود دارد. موقعیت های روزمره، به طرز شگفت انگیزی کثیف و پیچیده هستند، اغلب به روش های ظریف. به عنوان مثال: آیا شهر شما باید در یک برنامه پیش گیری از دیابت پول خرج کند یا بیشتر بر روی تأمین مددکاران اجتماعی باید سرمایه گذاری کند؟ آیا اداره بهداشت عمومی محلی شما باید یک بازرس دیگر برای رعایت استانداردهای بهداشت رستوران استخدام کند، یا برنامه ای را با ارائه سوزن و تزریقات رایگان ادامه دهد؟
 
پاسخ به این سؤالات به دلیل عدم اطمینان در مورد عواقب - از جمله این که چه کسی تحت تأثیر قرار می گیرد و تا چه میزان - بسیار دشوار است. راه حل هایی که فیلسوفان برای شرایط شدید و نا امیدانه ارائه داده اند، در این جا کمکی نمی کند.
 
مشکل در اتومبیل های خود ران نیز به همین منوال است. تفکر در موقعیت های شدید و سناریوهای سقوط نمی تواند به پاسخ سؤالاتی که در شرایط پیش پا افتاده اند کمک کند.
 

یک چالش در پیاده روها

می توان سؤال کرد که چه چیزهایی در شرایط ترافیکی پیش پا افتاده مانند نزدیک شدن به یک عابر پیاده، رانندگی از میان یک تقاطع یا گردش به چپ بسیار دشوار است. حتی اگر دید در گذرگاه محدود باشد و گاهی تشخیص این که آیا عابر پیاده مجاور واقعاً می خواهد از خیابان عبور کند دشوار باشد، رانندگان هر روز با این مسئله کنار می آیند.
 
اما برای اتومبیل های خود ران، چنین شرایط پیش پا افتاده ای از دو جهت یک چالش است.
 
اول، این واقعیت وجود دارد که آن چه برای انسان آسان است اغلب برای ماشین آلات سخت است. چه شناخت چهره و چه دوچرخه سواری، ما در درک و تکالیف مکانیکی مهارت داریم زیرا تکامل، این مهارت ها را برای ما ایجاد کرده است. با این حال، آموزش این مهارت ها یا مهندسی آنها دشوار است. این به عنوان تناقض نمای موراوک یا "Moravec’s Paradox"  شناخته می شود.
 
دوم، در آینده ای که همه اتومبیل ها اتومبیل خود ران هستند، تغییرات اندک در رفتار رانندگی در مجموع تفاوت زیادی ایجاد می کند. به عبارت دیگر، تصمیماتی که امروز مهندسان می گیرند، نحوه رانندگی تنها یک ماشین را تعیین نمی کند بلکه نحوه رانندگی همه خودروها را تعیین خواهد کرد. الگوریتم ها به خط مشی تبدیل می شوند.
 
مهندسان با استفاده از روش های یاد گیری ماشین، به کامپیوترها نحوه تشخیص چهره و اشیاء را آموزش می دهند. آنها همچنین می توانند از یاد گیری ماشین برای کمک به اتومبیل های خود ران استفاده کنند تا از رانندگی انسان تقلید کنند. اما این یک راه حل نیست: این امر این مشکل را حل نمی کند که تصمیمات گسترده ای در مورد ایمنی و تحرک توسط مهندسان گرفته می شود.
 
علاوه بر این، اتومبیل های خود ران نباید مانند مردم رانندگی کنند. انسان ها در واقع رانندگان خیلی خوبی نیستند. و آنها از نظر اخلاقی به گونه ای نگران کننده رانندگی می کنند و بر اساس سن، نژاد و درآمد افراد عابر پیاده تصمیم می گیرند که آیا از معابر عبور کنند یا نه. به عنوان مثال، محققان در پورتلند دریافته اند که عابران پیاده سیاه از فاصله ای دو برابر بیشتر از حد معمول از ماشین عبور می کنند و قبل از رد شدن از مقابل یک ماشین باید یک سوم بیشتر از زمانی که یک عابر پیاده سفید صبر می کند صبر کنند.
 
اتومبیل های خود ران باید ایمن تر و منصفانه تر از مردم رانندگی کنند.
 

اخلاقیات خشک

مشکلات اخلاقی زمانی عمیق تر می شود که در تعارض با منافع ظاهر شوید مثلاً در موقعیت های پیش پا افتاده ای مانند عبور از جاده ها، پیچ ها و تقاطع ها.
 
به عنوان مثال، طراحی اتومبیل های خود ران نیاز به اطمینان از برقراری تعادل ایمنی دیگران - عابر پیاده یا دو چرخه سوار - با منافع مسافران اتومبیل دارد. به محض این که یک ماشین از سرعت یک فرد پیاده رونده سریع تر حرکت کند، دیگر نمی تواند مانع از تصادف با کودکی شود که در آخرین ثانیه ممکن است روی جاده بدود. اما البته سرعت راه رفتن خیلی کم است. اگر ما، به عنوان یک جامعه، می توانستیم سیستم ترافیک خود را از ابتدا طراحی کنیم، دوست داشتیم چه شکلی باشد؟ همه باید حتی الامکان سریعاً به مکان هایی بروند. بنا بر این چگونه مهندسان باید تعادل بین ایمنی و تحرک را برقرار کنند؟ و چه سرعتی به اندازه کافی ایمن است؟
 
سؤالات اخلاقی دیگری نیز وجود دارد که مطرح می شود. مهندسان باید بین تحرک و تأثیرات زیست محیطی معامله کنند. هنگامی که مقررات در تمام اتومبیل های کشور اعمال می شوند، تغییرات اندک در شتاب کنترل شده توسط کامپیوتر، پیچ خوردن و ترمز می تواند تأثیرات زیادی بر مصرف انرژی و انتشار آلاینده ها داشته باشد. چگونه مهندسان باید بازده سفر را با تأثیرات محیطی معامله کنند؟
 

آینده ترافیک باید چگونه باشد؟

موقعیت های جهانی مشکلات مهندسی و اخلاقی جدیدی را ایجاد می کند، اما همچنین مردم را به طرف زیر سؤال بردن مفروضات اساسی سیستم ترافیک سوق می دهد.
 
برای خودم، من شروع کردم به این سؤال که آیا ما اصلاً به مکان هایی به نام "گذرگاه" احتیاج داریم؟ به هر حال، اتومبیل های خود ران به طور بالقوه می توانند عبور از جاده را در هر جایی امن کنند.
 
و فقط گذرگاه ها نیستند که غیرضروری می شوند. چراغ های راهنمایی در تقاطع ها نیز می توانند به گذشته ها بپیوندند. انسان ها برای اطمینان از عبور از تقاطع بدون تصادف و هرج و مرج به چراغ راهنمایی نیاز دارند. اما اتومبیل های خود ران می توانند به راحتی با یکدیگر هماهنگ شوند.
 
سؤال بزرگ تر در این جا این است: با توجه به این که اتومبیل های خود ران بهتر از رانندگان انسانی هستند، چرا باید خود رو ها تابع قوانینی باشند که برای خطا پذیری انسان و خطاهای انسانی طراحی شده اند؟ تصمیماتی که امروز مهندسان می گیرند، نحوه رانندگی تنها یک ماشین را تعیین نمی کند بلکه نحوه رانندگی همه خودروها را تعیین خواهد کرد. الگوریتم ها به خط مشی تبدیل می شوند. و برای گسترش این آزمایش فکری، به این سؤال کلی تر نیز توجه کنید: اگر ما، به عنوان یک جامعه، می توانستیم سیستم ترافیک خود را از ابتدا طراحی کنیم، دوست داشتیم چه شکلی باشد؟
 
از آنجا که این سؤالات سخت مربوط به همه افراد در یک شهر یا جامعه است، بنا بر این نیاز به توافق یک شهر یا جامعه در پاسخ ها دارند. این بدان معنی است که منافع رقابتی را به گونه ای متعادل کنید که برای همه کار ساز باشد - خواه مردم فقط به گذرگاه ها فکر کنند یا به کل سیستم ترافیک.
 
با استفاده از اتومبیل های خود ران، جوامع می توانند سیستم های ترافیکی خود را دو باره طراحی کنند. از گذرگاه تا طراحی کلی ترافیک - این شرایط پیش پا افتاده است که سؤالات واقعاً سختی را ایجاد می کند. شرایط شدید تنها باعث حواس پرتی می شود.
 
مسئله واگن برقی پاسخگوی این سؤالات سخت نیست.
 

وقتی یک اتومبیل خود ران تصادف کند چه کسی مقصر است؟

 
 
تصویر: اتومبیل های خود ران برای شناسایی و جلو گیری از خطر برنامه ریزی شده اند، اما در صورت تصادف، چه کسی در این رابطه مسئولیت قانونی دارد؟ (Shutterstock)
 
تحقیقات در موضوع تعامل بین انسان و وسیله نقلیه بارها و بارها نشان داده است که حتی سیستم هایی که برای رانندگی اتوماتیک طراحی شده اند - مانند کنترل کروز تطبیقی​​، که وسیله نقلیه را با سرعت و فاصله معینی از اتومبیل پیش رو حفظ می کند – خیلی دور از بی خطایی هستند.
 
شواهد اخیر به درک محدود رانندگان از آن چه این سیستم ها می توانند و نمی توانند انجام دهند (که همچنین به عنوان مدل های ذهنی معروف است) به عنوان عاملی مؤثر در سوء استفاده از سیستم اشاره دارد.
 
بسیاری از مسائل، دنیای اتومبیل های خود ران را نگران کرده است، از جمله لزوم وجود فناوری کاملاً بی عیب و نقص و استقبال گرم مردم از سیستم های خود گردان. همچنین مسئله مسئولیت های حقوقی نیز مطرح است. آن چه برای انسان آسان است اغلب برای ماشین آلات سخت است. چه شناخت چهره و چه دوچرخه سواری به طور خاص، این که مسئولیت های قانونی راننده انسان و شرکت سازنده ای که خود روی خود ران را ساخته است چیست؟
 

اعتماد و پاسخگویی

در یک مطالعه اخیر منتشر شده در علوم انسانی و ارتباطات علوم اجتماعی، نویسندگان به مسئله اعتماد بیش از حد رانندگان و سوء استفاده ناشی از آن از سیستم از دیدگاه قانونی پرداخته اند. آنها بررسی می کنند که تولید کنندگان اتومبیل های خود ران به طور قانونی چه کاری باید انجام دهند تا اطمینان حاصل شود که رانندگان چگونه از وسایل نقلیه به طور مناسب استفاده می کنند.
 
یکی از راه حل های پیشنهاد شده در این مطالعه شامل الزام خریداران به امضای توافق نامه های مجوز کار بر نهایی (EULAs) است، که مشابه با شرایط و ضوابطی است که در هنگام استفاده از محصولات رایانه ای یا نرم افزاری جدید به توافق نیاز دارند. برای کسب رضایت، تولید کنندگان ممکن است از صفحه لمسی همه جا حاضر استفاده کنند که در اکثر وسایل نقلیه جدید نصب می شود.
 
مسئله این است که این کاملا ایده آل و حتی ایمن نیست. و ممکن است رابط، اطلاعات کافی در اختیار راننده قرار ندهد و منجر به سر در گمی در مورد ماهیت درخواست های توافق و پیامدهای آنها شود.
 
مشکل این است که، اکثر کاربران نهاییEULA ها را نمی خوانند: یک مطالعه Deloitte 2017 نشان می دهد که 91 درصد از مردم بدون خواندن با آنها موافقت می کنند. این در صد حتی در جوانان نیز بیشتر است، 97 درصد بدون بررسی شرایط موافقت می کنند.
 
بر خلاف استفاده از برنامه تلفن های هوشمند، کار با اتومبیل دارای خطرات ایمنی ذاتی و قابل توجهی است، چه راننده انسانی باشد و چه نرم افزاری. رانندگان انسان برای پذیرفتن مسئولیت نتایج نرم افزار و سخت افزار نیاز به رضایت دارند.
 
"خستگی هشدار" و حواس پرتی رانندگی نیز باعث نگرانی می شود. به عنوان مثال، یک راننده که پس از دریافت هشدارهای مداوم آزرده خاطر می شود، می تواند تصمیم بگیرد که فقط پیام را نادیده بگیرد. تفکر در موقعیت های شدید و سناریوهای سقوط نمی تواند به پاسخ سؤالاتی که در شرایط پیش پا افتاده اند کمک کند. یا اگر پیام در حین حرکت وسیله نقلیه ارائه شود، می تواند باعث حواس پرتی شود.
 
با توجه به این محدودیت ها و نگرانی ها، حتی اگر قرار باشد این روش کسب رضایت به جلو برود، در صورت سوء عملکرد سیستم یا بروز حادثه، احتمالاً خود رو سازان را به طور کامل از مسئولیت قانونی آنها محافظت نمی کند.
 
آموزش راننده برای وسایل نقلیه خود ران می تواند اطمینان دهد که رانندگان کاملاً توانایی ها و محدودیت های سیستم را درک می کنند. این باید فراتر از خرید وسیله نقلیه رخ دهد - شواهد اخیر نشان می دهد که حتی تکیه بر اطلاعات ارائه شده توسط نمایندگی نیز به بسیاری از سؤالات پاسخ نخواهد داد.
 
با وجود در نظر گرفته شدن همه اینها، جاده پیش رو برای اتومبیل های خود ران همچنان یک محل سواری نرم نخواهد بود.
 
منبع: جوانز هیملریخ، فرانسیسکو بیوندی، Stanford University McCoy Family Center for Ethics in Society، University of Windsor