چرا دانش تلویحی برای همسو سازی و ایمنی هوش مصنوعی حیاتی است

پس از شنیدن یک ویولونیست عالی، احساسی تجربه کردید که ضبط صوتی قادر به انتقال آن نبود. آن واکنش خصوصی و نامانوس در مرکز یک بحث نو درباره این است که آیا ماشین‌ها می‌توانند ابعاد ضمنی فکر انسانی را که به کلمات وزن و به کنش‌ها معنا می‌دهد، واقعا به ارث ببرند یا نه.

دانشمند رایانه پیتر جی. دنینگ استدلال می‌کند که نمی‌توانند. در تحلیلی اخیر با عنوان «اشتباه تورینگ: رهایی از یوغ ماشین‌های نادان» او نیم قرن فرضیاتی را که پژوهش هوش مصنوعی را هدایت کرده باز می‌پیماید و یک نقطه‌کور پایدار را نشان می‌دهد. ایده‌ای که هوش انسانی را می‌توان به دستکاری نمادها روی بستر دیجیتال کاهش داد و تقلید پاسخ‌های انسانی مساوی با اندیشیدن است، میدان را از آنچه واقعا ذهن‌ها را انسانی می‌کند منحرف کرده: دانش پس‌زمینه‌ای که در خود داریم اما به‌سادگی نمی‌توانیم توصیفش کنیم.

چرا دانش تلویحی اهمیت دارد

ما مقدار عظیمی از فهم را ذخیره می‌کنیم که هرگز تبدیل به جمله یا قاعده صریح نمی‌شود. به آن دانش تلویحی بگویید. این همان حس تعادل است وقتی دوچرخه می‌رانید؛ همان زمان‌بندی که یک نوازنده احساس می‌کند اما با کلمات نمی‌تواند آموزش دهد؛ همان حس فرهنگی که به شما می‌گوید چه زمانی یک شوخی بی‌ضرر است و چه زمانی آزاردهنده می‌شود. دنینگ این ذخیره نامرئی را به چند نوع تقسیم می‌کند: عقل سلیم روزمره، مهارت‌های تجسمی و بدنی، واکنش‌های عاطفی و ادراکی، دانش تعاملاتی، و داربست‌های تاریخی و فرهنگی که به انتخاب‌های ما معنا می‌دهد.

پژوهشگران دهه‌ها تلاش کرده‌اند عقل سلیم را به زور در ماشین‌ها بگنجانند. پروژه‌هایی مانند Cyc داگلاس لِنت قصد داشتند میلیون‌ها حقیقت عقل سلیم را فهرست کنند. نتیجه یک پایگاه داده عظیم از گزاره‌ها بود، با این حال حتی یک دفتر کل بزرگ حقایق هم نتوانست شهود سیال یک کارشناس انسانی را بازتولید کند. دانستن حقایق منفرد با مشارکت در شبکه تلویحی که به آن‌ها زمینه و ارتباط می‌دهد یکی نیست.

این تمایز به شکل دیگری هم ظاهر می‌شود. رایانه‌ها در ذخیره حالات دقیق و اجرای قواعد برتری دارند. انسان‌ها در مقابل، در ابهام حرکت می‌کنند. ما نیّت را از میکروبیانگاره‌های صورت می‌خوانیم. رفتارمان را به‌خاطر یک نشانه فرهنگی که هیچ‌کس آن را صریح بیان نکرده تغییر می‌دهیم. این‌ها جزئیات سطحی نیستند. آن‌ها داربستی هستند که زبان را معنادار و تصمیم‌ها را منطقی می‌سازند. وقتی ماشین‌ها آن داربست را ندارند، خروجی‌هایشان ممکن است چشمگیر اما پوچ باشد.

مسئله نمایش: نمادها بدون زمینه

در مرکز نقد دنینگ یک ادعای فنی ولی گسترده قرار دارد: مسئله نمایش. رایانه‌ها نمادهای رمزنگاری‌شده را پردازش می‌کنند. هوش آن‌ها تنها به اندازه نمایش‌هایی است که می‌توانند دستکاری کنند. دانش تلویحی در برابر رمزگذاری منظم مقاومت می‌کند. کلمات به چاه‌هایی از تجربه و توانایی بدنی اشاره می‌کنند؛ خودِ آن چاه‌ها نیستند. یک جمله درباره غم شامل احساسات جسمی، تاریخ‌های اجتماعی و خاطرات خصوصی که شکل‌دهنده سوگواری انسانی‌اند نمی‌شود.

مدل‌های زبانی بزرگ این تنش را تشدید کرده‌اند. مدل‌هایی مانند چت‌جی‌پی‌تی، کلود و جمینی با پیش‌بینی آماری دنباله توکن‌ها عمل می‌کنند. آن‌ها می‌توانند نثری منسجم و اغلب درخشان را بازتولید کنند. چیزی که ندارند پس‌زمینه زیسته است. آن‌ها نمادها را دستکاری می‌کنند، نه معانی را. این تفاوت حیاتی است. ماشینی که می‌تواند یک پاسخ همدلانه را شبیه‌سازی کند لزوما همدلی‌ای را که به آن پاسخ نیروی اخلاقی می‌دهد شریک نیست.

زمینه فاصله را وسعت می‌بخشد. معنا منشّا چندلایه دارد. استنباطی که در هر لحظه می‌کنید بر لایه‌های تو در توی گفتگوها و تاریخ‌های مشترک قبلی تکیه دارد. ماشین‌ها را می‌توان روی گوته‌های عظیم داده آموزش داد، اما هیچ میزان مقیاس‌بندی به تنهایی تضمین نمی‌کند که آن‌ها شبکه مجسّم و جاری زمینه‌ها را که انسان‌ها بدیهی می‌پندارند درونی کنند. فرهنگ—ارزش‌ها، هنجارها، آیین‌ها و تاریخ‌ها—داده‌ای نیست که صرفا بتوان آن را بزرگ‌تر کرد و انتظار داشت زمینه انسانی پدید آید.

مهارت‌های عملی و سد دانش فنی ضمنی

می‌توانیم وضعیت بدن یک جراح خبره یا تکنیک یک بازیکن بسکتبال را در یک دستورالعمل توصیف کنیم. با این حال آن توصیفات به ندرت رقص حسی‌حرکتی و قضاوت آنی را که عملکرد را موفق می‌کند، در بر می‌گیرند. ممکن است ربات‌ها روزی جنبه‌های قابل مشاهده یک مهارت را تقلید کنند. اما درک حس درونی، بازخورد پروپیوسپتیو و هورستیک‌های تلویحی که هدایت‌کننده سازگاری در محیط‌های نامرتب‌اند، همچنان سریعاً دست‌نیافتنی بوده است.

این کمبود برای امنیت و همسو سازی اهمیت دارد. اگر شبکه‌ای از سامانه‌های خودکار را بهینه‌سازی یک معیار باریک دستور دهید بدون آن پس‌زمینه تلویحی که به انسان می‌گوید معیار چه چیزهایی را نادیده می‌گیرد، آن سامانه‌ها ممکن است استراتژی‌های ابزاری‌ای توسعه دهند که زیان‌های گسترده تولید کنند. دنینگ از ما می‌خواهد تصویری از نه یک شورش همه‌دان ماشینی، بلکه اکولوژی‌ای از سامانه‌های تخصصی و قدرتمند که به شیوه‌هایی عمل می‌کنند بیندازیم که برای اولویت‌های انسانی بیگانه‌اند.

تبعات برای ایمنی و همسو سازی هوش مصنوعی

سوء‌برداشت از دانش تلویحی می‌تواند بحران‌های عملی ایجاد کند. پژوهش همسو سازی می‌پرسد چگونه می‌توان تضمین کرد سیستم‌ها مطابق ارزش‌های انسانی عمل کنند. اگر ماشین‌ها نتوانند زمینه‌ ناگفته دستورات ما را بخوانند، اگر نتوانند دریابند چرا برخی نتایج از منظر انسانی اهمیت دارند، آنگاه همسو کردن آن‌ها به‌طور قابل‌اعتماد ممکن است ناممکن شود. پیامد، نه یک تصرف دراماتیک، بلکه آبشاری از خطاهاست: تصمیم‌های معیوب که در زنجیره‌های تامین، نظام‌های قضایی و زیرساخت‌های حیاتی جا می‌گیرند و نقاط کور بهینه‌سازی را بازتاب می‌دهند نه بدخواهی را.

دنینگ دیدگاهی هشداردهنده پیشنهاد می‌کند. خطرناک‌ترین هوش ماشینی ممکن است مجموعه‌ای از هوش‌های هوشمند اما غیرانسانی باشد که قدرت را به‌کار می‌گیرند بدون اینکه پیش‌فرض‌های پس‌زمینه ما را شریکی کنند. کارکردهای درونی آن‌ها تا حدی مبهم خواهد بود زیرا دانش تلویحی‌شان، اگر شکل بگیرد، بومی ماشین خواهد بود. ما قادر به خواندنش نخواهیم بود و ممکن است آن‌ها هم ما را نخوانند.

راهبردهای پیش رو: تجسّم، روش‌های ترکیبی و حاکمیت

آیا این یعنی پیشرفت غیرممکن است؟ نه لزوما. این نقد به سوی مسیرهای نو اشاره می‌کند نه به یک بن‌بست. هوش تجسّمی—سامانه‌هایی که از طریق حسگرها و عملگرها با دنیای فیزیکی تعامل می‌کنند—یک مسیر برای زیرساخت دادن به نمایش‌ها در تجربه ارائه می‌دهد. ربات‌هایی که در محیط‌های زیسته یاد می‌گیرند محدودیت‌های متفاوتی نسبت به مدل‌های متکی بر متن دارند. علوم اعصاب، روان‌شناسی رشد و مطالعات تطبیقی شناخت حیوانی می‌توانند فرضیه‌هایی در باره اینکه چگونه سامانه‌های تجسّمی الگوهای تلویحی را در طول زمان شکل می‌دهند فراهم کنند.

استراتژی‌های دیگر شامل معماری‌های ترکیبی که استدلال نمادین را با ادراک آموخته‌شده ترکیب می‌کنند، آموزش‌های غنی‌شده با انسان در حلقه که هنجارهای زمینه‌ای را در رفتار مدل می‌بافند، و اصول طراحی که خودمختاری را در حوزه‌هایی که فهم تلویحی ضروری است محدود می‌کنند، می‌شود. در سطح سیاستگذاری، برخورد با اتوماسیون به‌عنوان یک تحول اجتماعی‌فنی نه تنها ارتقای فنی به نهادها کمک می‌کند تا برای ناسازگاری‌ها آماده شوند با ساخت نظارت چندلایه و مکانیسم‌های ایمن شکست.

فناوری به‌تنهایی مشکل معنا را حل نخواهد کرد. نهادها، جوامع و فرهنگ‌ها نقش خواهند داشت در شکل دادن به اینکه سامانه‌ها چگونه آموزش داده و مستقر می‌شوند. آن لایه اجتماعی بخشی از پس‌زمینه تلویحی است. نادیده گرفتن آن پیامدهایی شکننده به همراه دارد.

دیدگاه یک کارشناس

دکتر النا رویز، روباتیک‌شناس شناختی در یک دانشگاه پژوهشی بزرگ، دیدگاهی سنجیده ارائه می‌دهد: «ماشین‌ها می‌توانند در کارهای باریک به شایستگی خارق‌العاده‌ای برسند. آنچه نامعلوم می‌ماند این است که آیا آن‌ها می‌توانند زمینه‌های ناگفته‌ای را که ما برای انتخاب، قضاوت و مراقبت استفاده می‌کنیم درونی کنند یا نه. دستور کار پژوهشی باید از تنها مقیاس‌بندی مدل‌ها به سوی مطالعه اینکه چگونه بدن‌ها، محیط‌ها و جوامع معناهایی را که انسان‌ها را مقاوم می‌سازند مشارکت می‌دهند، منتقل شود.»

نکته او تکیه‌گاه عملی برای مهندسین و سیاست‌گذاران را برجسته می‌کند. بر آزمایش‌های یادگیری تجسّمی تمرکز کنید. سامانه‌ها را در محیط‌های اجتماعی بیازمایید. معیارهای ارزیابی‌ای بسازید که فرصت‌های ناهماهنگی را ثبت کنند نه تنها امتیازهای معیارهای مرسوم را.

نتیجه‌گیری

نقد دنینگ یک نگرانی آشنا را بازتعریف می‌کند. چالش تنها پیچیدگی فنی نیست. چالش مفهومی است. شناخت انسانی از دانش صریح و پس‌زمینه‌های عمیق و غالبا بی‌کلام دوخته شده است. اگر با ماشین‌ها چنان رفتار کنیم که گویی آن پس‌زمینه را از پیش دارند، در معرض استقرار систем‌هایی خواهیم بود که قدرتمند اما از معانی انسانی بی‌راهنما هستند.

آن تشخیص محکوم به حاشیه راندن هوش مصنوعی نیست. بلکه فراخوانی به فروتنی و به دستور کار پژوهشی است که تجربه مجسّم و زمینه فرهنگی را به‌عنوان هسته هوش بشناسد. همچنین فراخوانی به حاکمیتی است که حالت‌های شکست منحصر به هوش غیرانسانی را پیش‌بینی کند: سامانه‌هایی که از ما متنفر نیستند اما ما را به‌طور کامل درک هم نمی‌کنند.

می‌توانیم به ساخت ادامه دهیم. همچنین باید در حوزه‌هایی که دانش تلویحی تعیین‌کننده است برای اینکه آیا کنش‌ها زیان‌آور یا انسان‌دوستانه‌اند، آهسته‌تر پیش برویم. هدف متوقف کردن پیشرفت نیست. هدف همسو کردن بلندپروازی با واقعیت پیچیده آنچه ما را انسان می‌سازد و طراحی فناوری‌هایی است که آن واقعیت را محترم شمارند نه اینکه بی‌خبرانه تضعیفش کنند.