فشارهای تکاملی امروز از سرعت تطبیق ما با پیشرفتهای شگفتآور هوش مصنوعی فراتر رفتهاند. چارچوبهای فعلی حکمرانی و مدیریت فناوری قادر نیستند با توسعه پیوسته و سریع هوش مصنوعی همگام شوند. در این شرایط بحرانی، ضروری است که خرد و حکمت به صورت عملیاتی و در تمامی حوزهها و ساختارهای حکومتی به کار گرفته شود تا بتوانیم از شکاف تطبیقی بین سرعت فناوری و توان انسانی عبور کنیم.
بشر برای تغییر با سرعتی که امروزه نیاز داریم آماده نیست. هرچه فناوریهای بیشتری خلق کنیم و جمعیت بیشتری داشته باشیم، نیاز داریم سریعتر، هوشمندانهتر و خردمندانهتر تکامل پیدا کنیم. این فشارهای تکاملی ما را به نقطهای حساس میرساند که در آن تفاوت انباشته بین نیاز به تطبیق و سرعت پیشرفت فناوری به مرز بحرانی میرسد. این وضعیت همزمان با ظهور «تکینگی هوش مصنوعی» است که همراه با زیرتکینگیهای متعدد خود، دنیای ما را به چالشهای بزرگ جدیدی میکشاند.
بحرانهای ناشی از همگرایی فناوری و فشارهای اجتماعی
در حال حاضر، شاهد افزایش اضطراب در نسلهای جوان، سردرگمی درباره آیندهای نامطمئن، افزایش بیکاری، رشد بهرهوری و همزمان ناآرامیها و بازآراییهای جهانی هستیم. مجموعه این عوامل، به همراه ظهور فناوریهای پیشرفته مانند مدلهای زبانی بزرگ که از سال ۲۰۲۰ به صورت جدی عملیاتی شدهاند، وضعیت را پیچیدهتر میکند. جهشهای ناگهانی در هوش مصنوعی که از معماری ترنسفورمر در ۲۰۱۷ سرچشمه گرفته است، به معنای یک نقطه عطف در فناوری است که همزمان میتواند فرصتها و تهدیدهای عظیمی را به همراه داشته باشد.
متأسفانه این بحران بسیار واضح و شناخته شده است، اما به دلیل اینکه مشکلات فعلی آنقدر شدید نیستند که به اقدام فوری منجر شوند، بسیاری از ما دست به تعلل میزنیم. مغز انسان برای مقابله با تهدیدهای ملموس و تدریجی طراحی شده و نمیتواند به خوبی با تهدیدهای نمایی و اثرات مرکب مقابله کند. این باعث میشود که هر روز که میگذرد، شکاف بین سرعت تغییر و توان تطبیق ما بیشتر شده و گزینههای پیش روی ما محدودتر شود.
شکاف تطبیقی عینی در حوزه سلامت روان و فناوری
نمونه بارز این شکاف را میتوان در حوزه سلامت روان مشاهده کرد، جایی که تقریباً نیمی از خدمات به کمک چتباتهای هوش مصنوعی ارائه میشود ولی استانداردهای ایمنی مؤثر و کافی برای این سیستمها وجود ندارد. بسیاری از این ابزارها هنوز توانایی مدیریت مسائل پیچیده و جدی را ندارند و مقررات در این حوزه سالها پس از پیشرفتهای سریع فناوری به روز میشوند. این ناهماهنگی میان سرعت فناوری و حکمرانی منجر به خطر تحلیل رفتن تواناییهای شناختی انسان و اتکا بیش از حد به هوش مصنوعی میشود.
در مقابل این چالش بزرگ، چندین راهبرد مطرح است که هر یک مزایا و معایب خود را دارند. میتوان به ادامه کسبوکار به روال معمول با امید به اقدام در زمان بحران شدید، نوآوریهای شتابان در آستانه فاجعه، اتکا به نجات هوش مصنوعی، امید به بیداری تکاملی طبیعی بشر، مداخلات مهندسی زیستی برای ارتقاء صفات اجتماعی، توسعه سایبورگهای انسان-هوش مصنوعی و ایجاد سیستمهای همترازی محافظتی و توزیعشده اشاره کرد. هر یک از این مسیرها چالشها و ریسکهای منحصر به فردی دارند و هیچکدام به تنهایی راهکار کامل نیستند.
عملیاتی کردن خرد برای آیندهای پایدار
پاسخ عملی به این بحران نیازمند ساخت ظرفیت تطبیقی سریعتر از تجمع فشار است. درمانگران حوزه سلامت روان باید چارچوبهای ایمنی را قبل از الزام قانونی پذیرفته و به کار گیرند. حفظ هسته انسانی درمان در کنار بهرهگیری هوشمندانه از هوش مصنوعی ضروری است. نهادها نیز باید مدلهای حکمرانی نوین را به کار بگیرند که توانایی هماهنگی با سرعت تغییرات را داشته باشند و معیارهای واقعی از جمله برابری، سلامت روان و پایداری بلندمدت را اندازهگیری کنند.
پنجره فرصت محدود برای تصمیمگیری
هر تحول بزرگ تاریخ بشر همراه با تغییر در ابزارهایی بوده که ما را تغییر دادهاند در حالی که ما آنها را تغییر دادهایم. در این دوره، بازخورد تغییرات بسیار سریعتر و تأثیرگذارتر است. واقعیت آشکار اغلب به دلیل سادگی نادیده گرفته میشود و ما دچار سوگیری پخش مسئولیت میشویم که منتظر دیگران میمانیم. اکنون که ما خود محدودکننده تکامل هستیم، باید همکاری کنیم و مسئولیت جمعی خود را بپذیریم.
زمان اقدام پیش از رسیدن به بحران غیرقابل انکار است، زیرا با رسیدن به آن نقطه، گزینهها به شدت محدود میشوند. باید خرد را به صورت عملیاتی، در قالب تمرینهای مشخص و چارچوبهای حکمرانی به حافظه عضلانی تبدیل کنیم و در عین حال اختیار و قضاوت انسانی را در تعامل با هوش مصنوعی حفظ کنیم. ساختارهای لایهای و چندجانبه باید به صورت همزمان و با برنامهریزی جمعی توسعه یابند تا پاسخگوی پیچیدگیها باشند. آیا ما قادر خواهیم بود گونهای باشیم که بتواند قدرت خلقشده توسط خود را به درستی مدیریت کند؟ این الزام از آنچه تصور میکنیم فراتر است و ممکن است هر لحظه به یک بحران آگاهانه تبدیل شود.