واشنگتن و پکن اکنون با واقعیت ژئوپلیتیکی واضحی مواجه هستند: رقابت برای تسلط اقتصادی و نظامی در حالی که در تلاش برای کنترل فناوریهای غیرقابل پیشبینی هستند. پیشبرد ایمنی عملی هوش مصنوعی باید به یک اولویت حاکمیتی برای هر دو کشور تبدیل شود، حتی در حالی که رقابت شدید فناوری در سراسر اقیانوس آرام تشدید میشود. به جای انتظار برای توافقهای بینالمللی غیرقابل اجرا، هر دو قدرت باید استانداردهای سختگیرانه ایمنی هوش مصنوعی را مستقیماً در خطوط توسعه داخلی خود گنجانده تا از فاجعههای جهانی جلوگیری کنند.
ایمنی هوش مصنوعی در میان رقبای جهانی
ایالات متحده و چین دو کشوری هستند که پیشرفتهترین سیستمهای هوش مصنوعی جهان را میسازند. آنها همچنین ابرقدرتهای رقیب هستند که هر یک هوش مصنوعی را برای رقابت بر سر برتری حیاتی میدانند. این دینامیکها به طور مشترک یک رقابت شتابان برای ساخت قدرتمندترین—و احتمالاً خطرناکترین—سیستمهای هوش مصنوعی را به وجود میآورند.
پس از اجلاس پکن بین رئیسجمهور ایالات متحده، دونالد ترامپ، و رئیسجمهور چین، شی جینپینگ، دو کشور توافق کردند که یک گفتوگوی دولتی درباره هوش مصنوعی برقرار کنند. اما آیا ابرقدرتهایی که در نبرد برای برتری هوش مصنوعی قفل شدهاند، میتوانند برای کاهش خطرات ناشی از فناوری که بر سر آن رقابت میکنند، نیز همکاری کنند؟
بله، اما این نیاز به اهداف متعادل و رویکردی عملی دارد. من این رویکرد را «ایمنی هوش مصنوعی بهطور موازی» مینامم.
ساخت ایمنی هوش مصنوعی بهطور موازی
ایالات متحده و چین به طور همزمان در زمینه ایمنی هوش مصنوعی پیش نخواهند رفت و ایجاد توافقهای الزامآور متقابل با عواقب واقعی احتمالاً در حال حاضر ممکن نیست. اما آنها میتوانند به جلو در مسیرهای موازی حرکت کنند، هر یک فناوری را پیشرفته کرده و همچنین اقداماتی برای کاهش خطرات انجام دهند زیرا معتقدند این برای امنیت ملی خود ضروری است—صرفنظر از اینکه طرف دیگر چه میکند. در این فرآیند، تأثیرگذارترین تصمیمات در درون دو کشور اتخاذ خواهد شد، نه بین آنها. و آن تصمیمات داخلی تحت تأثیر محاسبات سرد منافع ملی (و سیاسی) هدایت خواهد شد.
اما حتی در درون واقعگرایی سیاسی رقابت قدرتهای بزرگ در زمینه هوش مصنوعی، تعامل استراتژیک بین ایالات متحده و چین هنوز نقش حیاتی دارد. این تعامل میتواند دو هدف اساسی را پیش ببرد: افزایش ایمنی سیستمهای ساخته شده در هر دو کشور و افزایش آگاهی متقابل از شیوههای ایمنی که در کشور دیگر به کار گرفته میشود (یا نمیشود). هدف اول خطر فاجعههای هوش مصنوعی که میتواند مرزها را درنوردد کاهش میدهد، در حالی که هدف دوم میتواند برخی از دینامیکهای خطرناک رقابتی را که در حال حاضر وجود دارد، کاهش دهد. در زمانی که همه به سمت سرزمینهای ناشناخته حرکت میکنند، حفظ سطحی از پیوند که دید را افزایش میدهد و توسعه ایمن فناوری را در هر دو مکان تشویق میکند، ارزشمند است.
واقعیت نگرانکننده هوش مصنوعی امروز این است که حتی پیشرفتهترین دانشمندان هوش مصنوعی در جهان—چه در سیلیکون ولی، شانگهای یا جاهای دیگر—نمیدانند چگونه میتوانند اطمینان حاصل کنند که این فناوری در حین قدرتمندتر شدن ایمن باقی میماند. آنها به شدت در تلاشند تا این موضوع را درک کنند و غالباً در حال رقابت با قابلیتهای به سرعت در حال تحول مدلهایی هستند که در حال ساخت آنها هستند. در این دوره، توافق ایالات متحده و چین برای انجام کارهای مشابه در زمینه ایمنی هوش مصنوعی به مراتب کمتر از این مهم است که هر دو کشور در واقع در ساخت ایمن هوش مصنوعی بهتر شوند.
ایمنی هوش مصنوعی به طور موازی به معنای ایجاد نقاط تماس و کانالهای اطلاعاتی بین ایالات متحده و چین است که قابلیتهای ایمنی هر طرف را تقویت میکند. از نظر عملی، این میتواند به معنای اشتراکگذاری محدود و استراتژیک تهدیدات نوظهور و بهترین شیوهها برای شناسایی و کاهش قابلیتهای خطرناک هوش مصنوعی باشد. این تبادلات میتواند از طریق گفتوگوی دولتی آینده ایالات متحده و چین و برای حوزههای کمتر حساس تعامل، گفتوگوهای غیر دولتی Track II بین کشورها انجام شود.
ریسکهای آزمایش در ایمنی هوش مصنوعی
هم ایالات متحده و هم چین تجربهای ارزشمند در زمینه ایمنی و حکمرانی هوش مصنوعی دارند. تحقیقات فنی در زمینه ایمنی هوش مصنوعی پیشرفته ریشههای عمیقی در ایالات متحده دارد اما در چین زمینهای نسبتاً جدیدتر است. یکی از ارزشمندترین چیزهایی که میتواند از تعامل ایالات متحده و چین در زمینه هوش مصنوعی به دست آید، اشتراکگذاری رویکردها برای آزمایش قابلیتهای جدید خطرناک در مدلها است: توانایی کشف پاتوژنهای نوین یا به عمد فرار از کنترل یک اپراتور انسانی.
بحثهای فنی در این زمینهها حساس اما قابل انجام است. در برخی حوزهها خط باریکی بین کشف چگونگی آزمایش یک قابلیت جدید و کشف چگونگی ساخت آن قابلیت وجود دارد. کلید این است که این تعادل به شدت به نفع تکنیکهای ایمنیافزا متمایل شود تا تکنیکهای قابلیتافزا. اگر مداخلهای وجود داشته باشد که یک مدل را ۲۵ درصد ایمنتر و ۲ درصد قادرتر کند، احتمالاً این نوع تکنیک است که حتی ما میخواهیم رقبای ما نیز آن را اتخاذ کنند. نظارت دقیق بر این تعادل برای هر گونه بحثی حیاتی خواهد بود. اگر تبادلهای فنی مستقیم به عنوان ریسکزا تلقی شوند، گفتگوها میتوانند به سطح بالاتری ارتقا یابند تا بر روی رویکردهای وسیعتری برای آزمایش تمرکز کنند.
و اگرچه ایالات متحده ممکن است در حال حاضر در توسعه این آزمایشها و تدابیر ایمنی پیشرو باشد، این پیشتازی به هیچ وجه تضمین شده نیست. محققان هوش مصنوعی چین نشان دادهاند که بسیار خلاق هستند، حتی با دسترسی به قدرت محاسباتی بسیار کمتر به دلیل کنترلهای صادراتی ایالات متحده. پیشرفتهای آینده در آزمایش و ایمنی هوش مصنوعی ممکن است به همان اندازه از اکوسیستم چین ظهور کند و هم ایالات متحده و هم چین از به اشتراکگذاری آنها بهرهمند خواهند شد.
ایمنی هوش مصنوعی و حاکمیت عملی
فراتر از تحقیقات فنی، چین تجربه گستردهای در فرآیندهای عملیاتی تنظیم هوش مصنوعی دارد. در چهار سال گذشته، چین جامعترین و دقیقترین مقررات جهان در زمینه هوش مصنوعی را به اجرا درآورده و این کار را به گونهای انجام داده که نوآوری را به طور چشمگیری کند نکرده است.
تنظیمکنندگان یک سیستم انعطافپذیر و در حال تحول مداوم از ثبتنام و آزمایش اجباری مدلها ایجاد کردهاند که با استانداردهای فنی نوشته شده توسط کارشناسان از صنایع، دانشگاهها و دولت ترکیب شده است. مقررات اولیه چین بر کنترل نحوه تولید و انتشار اطلاعات آنلاین توسط هوش مصنوعی متمرکز بود و اطمینان حاصل میکرد که این فناوری کنترلهای اطلاعاتی موجود را مختل نکند. اما در سالهای اخیر، تنظیمکنندگان این ابزارها را برای ایجاد یک سیستم جامع برای برچسبگذاری محتوای تولید شده توسط هوش مصنوعی، قوانین سختگیرانه برای چتباتهای همراه و تدابیر ایمنی در حال ظهور برای هوش مصنوعی عاملی به کار گرفتهاند.
ایالات متحده نباید رویکرد چین را در تنظیمگری کپی کند. بسیاری از بخشها به طور مستقیم با ارزشهای اصلی آمریکایی در مورد آزادی بیان و قدرت دولت بر شرکتهای خصوصی در تضاد است. اما ما میتوانیم از جنبههای زیرساختهای تنظیمی و فنی یاد بگیریم. با وجود سیستمهای سیاسی به شدت متفاوت ما، جامعه سیاستگذاری هوش مصنوعی چین هیچ مشکلی در یادگیری و سازگاری با ایدههای خوب سیاستگذاری از ایالات متحده ندارد. ما نیز باید آماده باشیم که همین کار را انجام دهیم.
علاوه بر این نوع یادگیری، ایمنی هوش مصنوعی به طور همزمان آگاهی متقابل از آنچه هر طرف در زمینه حکمرانی و تدابیر فنی انجام میدهد را به طور بحرانی افزایش میدهد. بعید است که ایالات متحده و چین بر سر اقدام متقابل الزامآور توافق کنند، اما ضروری است که ما درک مشخصی از رویکرد طرف مقابل داشته باشیم. در غیاب هرگونه اطلاعات در مورد آزمایش یا تدابیر حفاظتی، رهبران هر دو کشور به طور طبیعی بدترین حالت را فرض خواهند کرد: اینکه طرف مقابل هرگونه اقدام در زمینه ایمنی را در یک رقابت بیپروا برای ساخت قدرتمندترین سیستم قربانی میکند. گفتگوی ساختاریافته یک کانال کلیدی برای توضیح رویکردها و مکانیسمهای نظارتی است که اغلب از دور به شدت درک نادرستی از آنها وجود دارد.
اطمینان از ایمنی هوش مصنوعی با اعتماد
این فرآیند بر اساس اعتماد نیست، بر این باور نیست که طرف مقابل به سادگی حقیقت را میگوید یا به وعدههای نیکخواهانه عمل خواهد کرد. در این مرحله، اعتماد بین ابرقدرتها هم غیرواقعی و هم غیرضروری است. در عوض، این بحثها برای ایجاد اعتماد طراحی شدهاند. این اعتماد در نیتهای طرف مقابل نیست، بلکه در درک آنها از فناوری، خطرات و چگونگی کاهش آنها است.
اگر مقامات چینی به همتایان آمریکایی خود بگویند که یک خطر خاص هوش مصنوعی را “بسیار جدی” میگیرند و در حال آزمایش آن هستند، آمریکاییها نمیتوانند فقط به کلام آنها اعتماد کنند. اما در طول یک گفتوگو، اغلب به وضوح مشخص میشود که آیا طرف مقابل به آن خطر به طور جدی فکر کرده و تلاشی برای ایجاد تدابیر حفاظتی لازم کرده است یا خیر. این تضمینی نیست که آنها اقدام خواهند کرد، اما وقتی با تحلیل واقعبینانه منافع طرف مقابل ترکیب شود، منبع معناداری از دادهها برای مدلسازی آنچه ممکن است انجام دهند، خواهد بود. این نوع آگاهی متقابل در پیمایش سالهای آینده مهم خواهد بود.
به طور بحرانی، یک گفتگوی هوش مصنوعی ایالات متحده و چین نباید به عنوان محلی برای چانهزنی تلقی شود، با این فرض که چین در ازای کاهش کنترلهای صادراتی ایالات متحده بر روی تراشهها، بیشتر در زمینه ایمنی اقدام خواهد کرد. ایمنی سیستمهای پیشرفته هوش مصنوعی یک مشکل پیچیده و در حال تحول است. پیشرفت واقعی در این زمینه نیاز به تمایل واقعی و پایدار برای پرداختن به مسائل دارد. انجام آن به عنوان یک امتیاز نیمهدلخواه به کشور دیگر به سادگی کارساز نخواهد بود. اگر تنها چیزی که مقامات چینی به آن علاقهمند هستند همین باشد، باید از آن دور شویم. اما اگر آنها به تبادل جدی علاقهمند هستند، باید آماده مشارکت در آن باشیم.
در مقایسه با برخی از پیشنهادات بلندپروازانهتر برای حکمرانی بینالمللی—به عنوان مثال، یک پیمان عدم گسترش برای هوش مصنوعی—ایمنی هوش مصنوعی در حالت موازی اهداف متواضعتری دارد. این رویکرد توافقهای الزامآور بین کشورها را به عنوان یک مزیت در نظر میگیرد نه هدف فوری. بسته به اینکه فناوری در سالهای آینده به کدام سمت برود، این ممکن است به خوبی ناکافی باشد. اگر اینطور باشد، ما باید به سرعت سازگار شویم. اما باید از جایی شروع کنیم و آغاز با مدل ذهنی ایمنی در حالت موازی میتواند پایهای محکمتر بگذارد و از دامهای تعیین اهداف غیرواقعی در آغاز جلوگیری کند.
حتی اگر این رویکرد بهطور کامل اجرا شود، رویکرد ایمنی هوش مصنوعی در حالت موازی نمیتواند تضمین کند که ایالات متحده و چین بهطور موفقیتآمیزی تغییرات و تهدیدات ناشی از فناوری را مدیریت خواهند کرد. با توجه به عدم قطعیتهای فنی و ژئوپلیتیکی عظیم در حال حاضر، تقریباً هیچ چیزی نمیتواند آن تضمین را فراهم کند. در حالی که ایالات متحده و چین هر دو به سمت این آینده نامشخص پیش میروند، اگر بدانیم که در یک جهت حرکت میکنیم، شانس بهتری خواهیم داشت.