اگر یک گربه، یک فرد سالمند و یک کودک در مسیر حرکت خودروی خودران قرار گیرد و خوردو مجبور باشد با یکی از آنها تصادف کند؛ کدام گزینه را انتخاب خواهد کرد؟
محققان دانشگاه MIT درصدد بررسی این مساله هستند که اگر در مسیر حرکت خودروهای خودران، سناریوهای مختلف تصادف وجود داشته باشد، خودروی خودران با سیستم مبتنی بر هوش مصنوعی چگونه تصمیمگیری میکند و با کدام سوژه برخورد میکند؟
مساله تراموا یکی از آزمایشهای مشهور در زمینهی فلسفهی اخلاق است. در مساله ترموا فرض بر این است که روی ریل راهآهن در حال حرکت، ۵ نفر ایستادهاند. تراموا در حال حرکت بهسمت این پنج نفر است و هر لحظه به آنها نزدیکتر میشود. تصور کنید شما بهعنوان یک مشاهدهگر در صحنهی تصادف حضور دارید. در کنار شما یک اهرم قرار دارد که اگر اهرم را بکشید، تراموا در ریل دیگر به حرکت خود ادامه میدهد. روی ریل دوم، فقط یک نفر ایستاده است. شما دو حق انتخاب دارید: ۱- به اهرم دست نزنید تا تراموا با ۵ نفر برخورد کند. ۲- اهرم را بکشید تا بهجای کشتهشدن ۵ نفر، تنها یک نفر جان خود را از دست بدهد. این مساله معروف Trolley problem یا مساله تراموا نام دارد.
بهنظر شما انتخاب درست چیست؟ اگر شما مشاهدهگر این صحنه بودید، اهرم را میکشیدید یا اینکه دست به اهرم نمیزدید؟
محققان MIT در آزمایشگاه Media Lab، به بررسی نحوهی تصمیمگیری خودروهای خودران در چنین شرایطی پرداختند. اگر در مسیر حرکت یک خودروی خودران یک فرد سالمند و یک کودک قرار گیرد و خوردو چارهای جز برخورد با یکی از آنها نداشته باشد، با کدامیک تصادف خواهد کرد؟ محققان MIT در سال ۲۰۱۴ میلادی آزمایشی تحت عنوان Moral Machine برگزار کردند. طراحی آزمون از مساله تراموا الگوبرداری شده بود. ایدهی اصلی این آزمون، طراحی پلتفرمی شبیه به بازی بود که بتواند براساس تصمیمگیری انسانها، تصمیمگیری خودروهای خودران را در شرایط مشابه برنامهریزی کند.
بعد از گذشت چهار سال از برگزاری آزمون Moral Machine، بیش از ۴۰ میلیون تصمیم توسط میلیونها نفر در ۲۳۳ کشور جهان گرفته شد. بیشک این آزمون یکی از بزرگترین آزمونهای اخلاقی برگزارشده در سطح جهان است. در آزمون Moral Machine، سناریوهای مختلفی برای تصادف طراحی شده بود. مثلا در یکی از سناریوها، راننده باید بین تصادف با یک حیوان خانگی و یک انسان، یکی را انتخاب میکرد. در سناریوی دیگر، یک کودک در کنار یک فرد سالمند در صحنهی تصادف قرار داده شده بود. سناریوی دیگر یک مرد و یک زن در صحنهی تصادف حضور داشتند و راننده باید انتخاب میکرد با کدامیک تصادف کند. در یکی دیگر از سناریوها، مشخص شده بود که یکی از سوژهها، شهروند معمولی است و دیگری مجرم. تنوع سناریوها زیاد بود و رانندگان باید در پلتفرم آنلاین تصمیم میگرفتند که در هر شرایطی با کدام سوژه برخورد میکنند.
در تمامی سناریوها، رانندهی خودرو باید مشخص میکرد در چنین شرایطی تغییر مسیر میدهد یا به همان مسیر قبلی خود ادامه میدهد. رانندگان با توجه به قدرت تفکر و تعقل در چنین شرایطی فکر میکنند و تصمیم میگیرند. معمولا باید در کسری از ثانیه تصمیمگیری کنند. آیا خودروهای خودران هم میتوانند در چنین شرایطی درست تصمیمگیری کنند؟
از نظر تئوری، خودروهای خودران بهشکلی برنامهریزی شدهاند که میتوانند تصمیمگیریهای اخلاقی را انجام بدهند. در آزمون Moral Machine، از شرایط واقعی زندگی الگوبرداری شده است. در یک سمت چند نفر ایستادهاند و در سمت دیگر تنها یک نفر ایستاده است. مثلا در یک طرف چند نفر فرد مجرد ایستادهاند و در سمت دیگر، پدر و مادر و یک کودک قرار دارند.
نتایج آزمون مورد بررسی قرار گرفت. ظاهرا در سراسر جهان، زنده ماندن انسانها بر حیوانات ارجحیت دارد. همچنین در تصمیمگیری برای تصادف، تعداد افراد هم مهم است. یعنی اگر در یک سمت تعداد بیشتری ایستاده باشند، راننده فرمان را به سمت دیگر که تعداد کمتری ایستادهاند میچرخاند. بهعلاوه ظاهرا توافق جمعی بر این است که زنده ماندن جوانان بر افراد سالمند ارجحیت دارد. اما نتایج بررسی تفاوتهایی را در نتایج آزمون برخی از کشورها نشان میدهد. بهعنوان مثال، شهروندان کشورهای جنوب کرهی زمین از جمله قارهی آفریقا در مقایسه با کشورهای شرق از جمله کشورهای آسیایی، زنده ماندن زنان و جوانان را نسبت به بقیه ترجیح میدهند. ادموند آواد، یکی از محققان آزمایشگاه MIT و نویسندهی اصلی مقاله معتقد است:
در اصل این مطالعه در تلاش است تا به بررسی انواع تصمیمات اخلاقی خودروهای خودران و بدون راننده بپردازد. هنوز نمیدانیم که در چنین شرایطی خودروهای خودران چه تصمیمی میگیرند.
نشریهی Nature، به بررسی نتایج آزمون پرداخت. براساس بررسیهای انجامشده ظاهرا عواملی همچون فرهنگ، اقتصاد و حتی موقعیت جغرافیایی افراد شرکتکننده در آزمون در نتایج تصمیمگیری آنها تاثیرگذار است. برای مثال در کشورهایی همچون چین و ژاپن کمتر از سایر کشورها افراد جوان را به افراد پیر ترجیح میدهند. یکی از دلایل چنین تصمیمگیریهایی این است که در این کشورها، سالمندان مورد توجه قرار دارند و به آنها اهمیت داده میشود. نمودار زیر نشان میدهد که در کشورهای مختلف میزان ارجحیت دادن بین جوانان و سالمندان به چه صورت است. عدد صفر، میانگین جهانی را نشان میدهد. نمودارهای نزدیک به منفی یک تاکید بیشتر بر افرد سالمند و نمودارهای نزدیک به یک، تاکید بیشتر بر جوانان و ارجحیت داشتن آنها را نشان میدهند.
در کشورهایی همچون آمریکا و انگلیس، تصمیمگیریها وضعیت بهتر و عاقلانهتری دارد و بر ارزش هر فرد انسان توجه میشود. با توجه به نمودارهای تحلیلی، در برخی کشورها که روی نمودار در قسمت بالای نمودار نشان داده شدهاند، کشورهایی هستند که نجات تعداد افراد بیشتر برای آنها اهمیت بیشتری داشته است. کشورهایی که در قسمت زیر نمودار قرار دارند، به تعداد افرادی که در یک سانحهی تصادف جان خود را از دست میدهند کمتر توجه نشان داده میشود.
نشریهی Nature بهصورت کامل به بررسی نتایج این آزمون پرداخته است و سناریوهای مختلف را مورد بررسی قرار داده است. آواد یکی از محققان پروژه اعتقاد دارد:
در طی دو تا سه سال گذشته، افراد بسیاری در مورد هوش مصنوعی و تصمیمگیری خودروهای خودران بحث میکنند. ما سعی کردیم از مساله تراموا برای بررسی وضعیت خودروهای خودران استفاده کنیم. دادههای بسیاری با کمک سناریوهای مختلف جمعآوری شده است. تصمیمگیری خودروهای خودران بر مبنای تحلیل ریسک انجام میشود. سیستم مبتنی بر هوش مصنوعی باید به تحلیل ریسک بپردازد تا بتواند بهترین تصمیم را بگیرد. بیشک سیستمهای مبتنی بر هوش مصنوعی و تحلیل ریسک طی سالهای آینده، توسعه خواهد یافت و میتوانند به خودروهای خودران در اتخاذ تصمیم درست کمک کند.