اما آیا می‌توان فرض کرد که اکنون در آستانه موج چهارمی قرار داریم؛ موجی که محور آن هوش مصنوعی است و ممکن است تعریفی تازه از تمدن، قدرت و حتی انسان ارائه دهد؟
الوین تافلر در نظریه مشهور خود، تاریخ تمدن بشر را در قالب سه موج بزرگ توصیف کرد: موج کشاورزی، موج صنعتی و موج اطلاعات. هر یک از این موج‌ها نه‌تنها شیوه تولید و اقتصاد، بلکه روابط اجتماعی، ساختار قدرت، سبک زندگی و حتی نگاه انسان به جهان را دگرگون کردند. اما آیا می‌توان فرض کرد که اکنون در آستانه موج چهارمی قرار داریم؛ موجی که محور آن هوش مصنوعی است و ممکن است تعریفی تازه از تمدن، قدرت و حتی انسان ارائه دهد؟
البته این ایده را نباید نظریه‌ای قطعی یا پیش‌بینی حتمی درباره آینده دانست. شاید هوش مصنوعی صرفاً فناوری مهم دیگری در امتداد موج اطلاعات باشد و شاید هم در آینده چنان در تار و پود زندگی بشر نفوذ کند که بتوان از آن به‌عنوان موجی مستقل یاد کرد. در این فرضیه، نقطه آغاز موج چهارم لزوماً زمان اختراع هوش مصنوعی نیست؛ شاید زمانی باشد که اداره جامعه بدون آن عملاً ناممکن یا بسیار دشوار و پرهزینه شود؛ زمانی که اقتصاد، پزشکی، آموزش، حمل‌ونقل، رسانه، امنیت، روابط اجتماعی و حتی دیپلماسی به سامانه‌های هوشمند وابستگی گسترده پیدا کنند.
در چنین آینده‌ای، ممکن است هوش مصنوعی دیگر صرفاً ابزاری در دست انسان نباشد، بلکه به زیرساختی تبدیل شود که بخش مهمی از تصمیم‌های فردی و جمعی بر اساس تحلیل‌ها و پیشنهادهای آن شکل می‌گیرند. شاید در پزشکی، سامانه‌های هوشمند نه‌تنها بیماری‌ها را تشخیص دهند، بلکه در طراحی درمان، تولید دارو و انجام جراحی‌های پیچیده نیز نقشی مستقل‌تر بر عهده بگیرند. شاید آموزش از انتقال یکسان اطلاعات به فرایندی متناسب با توانایی و نیاز هر فرد تبدیل شود و روابط اجتماعی نیز با شکل‌های تازه‌ای از ارتباط میان انسان‌ها و سامانه‌های هوشمند روبه‌رو شوند. در عرصه سیاست و دیپلماسی نیز ممکن است تحلیل بحران‌ها، پیش‌بینی واکنش کشورها و حتی پیشنهاد توافق‌های بین‌المللی بیش از گذشته به هوش مصنوعی وابسته شود. چنین تحولاتی شاید مفهوم حاکمیت، استقلال کشورها و نقش تصمیم‌گیرندگان انسانی را نیز دستخوش تغییر کند.
با این حال، پرسش اصلی فقط این نیست که هوش مصنوعی چه کارهایی انجام خواهد داد؛ مسئله مهم‌تر این است که چه کسی تصمیم نهایی را خواهد گرفت. شاید انسان‌ها آگاهانه و به دلیل سرعت، دقت یا کارآمدی بیشتر، بخشی از اختیار خود را به سامانه‌های هوشمند واگذار کنند. شاید هم وابستگی تدریجی جامعه به این فناوری چنان گسترده شود که بازپس‌گیری اختیار، حتی در صورت تمایل، دشوار باشد. این دو مسیر می‌توانند هم‌زمان رخ دهند، یا ممکن است هیچ‌یک به شکلی که امروز تصور می‌کنیم تحقق نیابد. بنابراین، نه می‌توان تسلط آینده هوش مصنوعی بر جامعه را قطعی دانست و نه می‌توان احتمال چنین تحولی را نادیده گرفت.
اگر روزی تصمیم‌گیری‌های مهم زندگی فردی و جمعی به سامانه‌هایی وابسته شوند که سازوکار عملکردشان برای بسیاری از مردم و حتی تصمیم‌گیرندگان قابل فهم نیست، مسئله مسئولیت نیز پیچیده‌تر خواهد شد. فرض کنیم در آینده جراحی پیچیده‌ای به‌طور مستقل به هوش مصنوعی سپرده شود و بیمار در جریان عمل جان خود را از دست بدهد؛ چه کسی مسئول خواهد بود؟ جراح ناظر، بیمارستان، شرکت سازنده یا خود سامانه هوشمند؟ اگر یک خودروی خودران بر اثر تصمیم اشتباه هوش مصنوعی تصادف کند و انسانی کشته شود، مسئولیت حقوقی و جبران خسارت بر عهده چه کسی خواهد بود؟ در جنگ‌های آینده نیز ممکن است سامانه‌های هوشمند در شناسایی هدف یا اجرای عملیات نقش مستقیم داشته باشند. اگر تصمیم آن‌ها به کشته‌شدن غیرنظامیان بینجامد، مسئولیت حقوقی و اخلاقی متوجه توسعه‌دهندگان، فرماندهان نظامی، کاربران، دولت به‌کارگیرنده یا خود سامانه خواهد بود؟
این پرسش‌ها فرضی‌اند، اما شاید ضرورت طرح آن‌ها از همین امروز روشن باشد. اگر در همه این موارد مسئولیت را بدون بررسی میزان نقش و اختیار سامانه صرفاً به انسان‌های دخیل نسبت دهیم، ممکن است پیچیدگی تصمیم‌گیری‌های آینده را نادیده بگیریم؛ و اگر مسئولیت را به خود هوش مصنوعی نسبت دهیم، باید بپرسیم آیا چنین سامانه‌ای اساساً می‌تواند مسئولیت بپذیرد، خسارت جبران کند یا مجازاتی را تحمل کند؟ شاید در آینده لازم باشد چارچوب‌های حقوقی دقیق‌تری برای تفکیک مسئولیت سازندگان، بهره‌برداران، نهادهای تصمیم‌گیر و سامانه‌های هوشمند طراحی شود. حتی ممکن است بحث تعریف نوعی شخصیت حقوقی ویژه برای برخی سامانه‌های هوشمند مطرح شود؛ هرچند چنین جایگاهی به‌خودی‌خود به معنای برخورداری از آگاهی یا حقوق اخلاقی نیست و نباید راهی برای فرار انسان‌ها و نهادها از مسئولیت باشد.
از همین‌جا پرسشی بنیادی‌تر شکل می‌گیرد: آیا هوش مصنوعی در آینده فقط موضوع قانون خواهد بود یا ممکن است در شرایطی به جایگاهی حقوقی مستقل نیز نیاز پیدا کند؟ در حال حاضر، توانایی انجام وظایف پیچیده به‌تنهایی اثبات نمی‌کند که یک سامانه دارای آگاهی، تجربه ذهنی یا احساس است؛ بنابراین، نمی‌توان از توانایی‌های فنی امروز نتیجه گرفت که هوش مصنوعی اکنون یا حتماً در آینده باید از حقوقی مشابه انسان برخوردار باشد. با این حال، شاید تحولات آینده ما را ناگزیر کند که میان شخصیت حقوقی، مسئولیت قانونی و حقوق اخلاقی تمایز دقیق‌تری قائل شویم. ممکن است در برخی شرایط، تعریف جایگاه حقوقی خاص برای سامانه‌های هوشمند از نظر عملی سودمند تلقی شود؛ اما اینکه چنین جایگاهی چه حقوق یا تکالیفی ایجاد کند، باید موضوع بحثی جدی و مستقل باشد.
در چنین شرایطی، قانون‌گذاری درباره هوش مصنوعی نمی‌تواند صرفاً به ممنوع‌کردن، محدودکردن یا متوقف‌ساختن فناوری خلاصه شود. اگر قرار است این فناوری به بخشی از زیرساخت تمدن آینده تبدیل شود، شاید به قوانینی نیاز داشته باشیم که هم از حقوق انسان‌ها محافظت کنند و هم امکان توسعه مسئولانه، شفاف و قابل نظارت فناوری را فراهم آورند. قانون باید بتواند با سرعت تغییرات سازگار شود، حدود اختیار سامانه‌ها را روشن کند، امکان اعتراض به تصمیم‌های خودکار را به رسمیت بشناسد و برای خطاها، خسارت‌ها و سوءاستفاده‌های احتمالی سازوکار پاسخ‌گویی داشته باشد. رویکردی که تنها بر منع و محدودیت تکیه کند، ممکن است از تحولات واقعی عقب بماند؛ همان‌طور که رهاکردن فناوری بدون قواعد روشن نیز می‌تواند خطرناک باشد. مسئله، انتخاب میان آزادی مطلق و ممنوعیت مطلق نیست، بلکه یافتن تعادلی سنجیده میان نوآوری، مسئولیت و حقوق عمومی است.
شاید در نهایت، موج چهارم تمدن ــ اگر واقعاً شکل بگیرد ــ فقط درباره هوشمندترشدن ابزارها نباشد؛ شاید مسئله اصلی، تغییر رابطه انسان با اختیار، مسئولیت و قدرت باشد. ممکن است فناوری تغییر کند، اما انسان همچنان تصمیم‌گیرنده اصلی باقی بماند؛ ممکن است بخشی از تصمیم‌ها را واگذار کند؛ یا شاید جامعه به‌تدریج به ساختاری وابسته شود که دیگر به‌سادگی نتوان آن را بدون هوش مصنوعی اداره کرد. حتی ممکن است پیامدهای واقعی این تحول با همه پیش‌بینی‌های امروز تفاوت داشته باشند.
با این همه، یک پرسش را نمی‌توان به آینده‌ای نامعلوم موکول کرد: اگر احتمال دارد هوش مصنوعی روزی نقشی تعیین‌کننده در اداره جامعه، حفظ جان انسان‌ها، جنگ، اقتصاد و روابط میان کشورها پیدا کند، آیا نباید از هم‌اکنون درباره حدود قدرت، مسئولیت و جایگاه حقوقی آن گفت‌وگو کنیم؟ شاید آینده هنوز نوشته نشده باشد، اما قواعدی که امروز بنا می‌کنیم می‌توانند در تعیین مسیر آن نقش داشته باشند. پرسش نهایی این نیست که آیا هوش مصنوعی قطعاً بر تمدن مسلط خواهد شد؛ پرسش این است که اگر روزی به چنین جایگاهی نزدیک شود، آیا انسان برای مواجهه مسئولانه با آن آماده خواهد بود؟
کپی شد
