فلسفه درباره هوش مصنوعی چه می‌گوید

هوش مصنوعی و وضعیت انسانی؛ از فلسفه ذهن تا گشتل تکنولوژیک

هوش مصنوعی در نگاه نخست پدیده‌ای فنی به نظر می‌رسد؛ مجموعه‌ای از الگوریتم‌ها، داده‌ها، شبکه‌های عصبی، مدل‌های زبانی، سامانه‌های یادگیری و ماشین‌هایی که می‌توانند تشخیص دهند، پیش‌بینی کنند، بنویسند، ترجمه کنند، تصویر بسازند، تصمیم‌سازی کنند و گاه در سطحی ظاهر شوند که مرز میان کار انسانی و کار ماشینی را مبهم سازند. اما اهمیت هوش مصنوعی تنها در توانایی‌های فنی آن نیست. هوش مصنوعی از همان آغاز، مسئله‌ای فلسفی بوده است؛ زیرا ما را ناگزیر می‌کند بار دیگر درباره ذهن، فهم، آگاهی، زبان، بدن، معنا، آزادی، مسئولیت و نسبت انسان با جهان بیندیشیم. آنچه در هوش مصنوعی رخ می‌دهد، صرفاً تولید ابزارهای تازه نیست، بلکه گشوده شدن افقی تازه برای فهم انسان از خویش است؛ افقی که در آن مرز میان تفکر و محاسبه، فهم و پردازش، زبان و تولید متن، تصمیم و پیش‌بینی، حافظه و ذخیره داده، و حتی انسان و ماشین دچار تزلزل می‌شود.

پرسش فلسفی درباره هوش مصنوعی از سطحی ساده آغاز می‌شود: آیا ماشین می‌تواند هوشمند باشد؟ اما این پرسش، به‌محض آنکه جدی گرفته شود، به پرسشی عمیق‌تر تبدیل می‌شود: هوش چیست، ذهن چیست، فهم یعنی چه، آگاهی چه نسبتی با بدن دارد، و آیا معنا را می‌توان به پردازش نشانه‌ها فروکاست؟ از همین‌جا هوش مصنوعی وارد قلمرو فلسفه ذهن می‌شود. فلسفه ذهن، به‌ویژه در سنت تحلیلی قرن بیستم، کوشیده است نسبت میان ذهن و بدن، آگاهی و مغز، تجربه و رفتار، و حالات ذهنی و کارکردهای فیزیکی یا محاسباتی را توضیح دهد. هوش مصنوعی این مباحث را از قلمرو تأمل نظری بیرون آورد و به مسئله‌ای تاریخی و عینی تبدیل کرد. تا پیش از ظهور ماشین‌های محاسباتی، بحث درباره اینکه آیا ذهن چیزی بیش از ماده است یا نه، عمدتاً بحثی میان دوگانه‌انگاری، فیزیکالیسم، رفتارگرایی و نظریه‌های گوناگون ذهن بود؛ اما با ظهور کامپیوتر، برای نخستین‌بار این امکان پیش آمد که ذهن نه صرفاً در نسبت با بدن زیستی، بلکه در نسبت با ماشین، برنامه، محاسبه و اطلاعات نیز فهمیده شود.

در این نقطه، نام آلن تورینگ جایگاهی بنیادین پیدا می‌کند. تورینگ بیش از آنکه بخواهد نظریه‌ای کامل درباره ماهیت ذهن عرضه کند، راهی تازه برای طرح مسئله گشود. او مسئله را از پرسش‌های مبهم درباره ذات اندیشیدن به سطحی عملی‌تر منتقل کرد و پرسید آیا می‌توان ماشینی ساخت که در گفت‌وگو و پاسخ‌گویی، از انسان قابل تشخیص نباشد. آنچه بعدها به آزمون تورینگ شهرت یافت، دقیقاً بر همین مبنا شکل گرفت. در این آزمون، اگر داور انسانی نتواند از خلال پرسش و پاسخ تشخیص دهد که با انسان سخن می‌گوید یا با ماشین، ماشین را می‌توان واجد نوعی هوشمندی دانست. اهمیت تورینگ در این بود که مسئله هوش را از درون‌نگری و ذات‌گرایی دور کرد و به رفتار زبانی، توانایی پاسخ‌گویی و کارکرد عملی نزدیک ساخت. در این تلقی، هوش نه لزوماً امری پنهان و دست‌نیافتنی در باطن موجود، بلکه چیزی است که در کنش، پاسخ، سازگاری و توانایی حل مسئله ظاهر می‌شود.

البته باید میان آزمون تورینگ و نظریه کارکردگرایی تمایز گذاشت. تورینگ را نمی‌توان به‌سادگی بنیان‌گذار کارکردگرایی در فلسفه ذهن دانست، اما بی‌تردید افقی را گشود که با تلقی کارکردگرایانه از ذهن سازگار بود. کارکردگرایی بر این ایده استوار است که حالت ذهنی را نباید بر اساس ماده سازنده آن تعریف کرد، بلکه باید آن را بر اساس نقشی فهمید که در شبکه‌ای از ورودی‌ها، خروجی‌ها و حالات دیگر ایفا می‌کند. درد، در این نگاه، صرفاً یک کیفیت مبهم درونی یا یک رویداد زیستی خاص نیست؛ درد حالتی است که معمولاً در اثر آسیب بدنی پدید می‌آید، با حالات ذهنی دیگری چون میل به رهایی یا ترس از آسیب همراه می‌شود، و به رفتارهایی چون فریاد، کنار کشیدن بدن یا جست‌وجوی درمان می‌انجامد. بنابراین آنچه یک حالت ذهنی را می‌سازد، ماده خاص آن نیست، بلکه جایگاه و نقش آن در کل نظام شناختی و رفتاری است.

همین نکته برای هوش مصنوعی اهمیت بسیار دارد. اگر ذهن بر اساس کارکرد تعریف شود، آنگاه به‌طور نظری نمی‌توان از پیش گفت که فقط مغز زیستی قادر به داشتن حالت‌های ذهنی است. ممکن است سامانه‌ای غیرزیستی، اگر همان نقش‌ها و کارکردها را در شبکه‌ای پیچیده ایفا کند، واجد نوعی ذهن‌مندی تلقی شود. اینجاست که امکان هوش مصنوعی قوی طرح می‌شود؛ یعنی این ایده که ماشین نه فقط می‌تواند رفتار هوشمندانه را شبیه‌سازی کند، بلکه ممکن است واقعاً بفهمد، باور داشته باشد، قصد کند، تصمیم بگیرد و به معنایی حقیقی دارای ذهن باشد. در این تلقی، ذهن به نرم‌افزاری شبیه می‌شود که می‌تواند بر سخت‌افزارهای متفاوت اجرا شود. همان‌گونه که یک برنامه ممکن است روی دستگاه‌های گوناگون اجرا شود، ذهن نیز می‌تواند، دست‌کم در اصل، بر بستری غیر از مغز انسانی تحقق یابد.

این تصور، در تاریخ هوش مصنوعی با رویکرد محاسباتی و نمادین پیوند خورد. در هوش مصنوعی کلاسیک، ذهن تا حد زیادی به نظامی برای دست‌کاری نمادها بر اساس قواعد صریح تشبیه می‌شد. اگر بتوان قواعد استدلال، زبان، حل مسئله و تصمیم‌گیری را به‌صورت نمادین صورت‌بندی کرد، ماشین نیز می‌تواند با اجرای آن قواعد، رفتاری شبیه رفتار عقلانی انسان نشان دهد. این تلقی ریشه در فهمی عمیق‌تر از عقلانیت مدرن دارد؛ فهمی که عقل را با محاسبه، قاعده، روش، نظم و بازنمایی پیوند می‌زند. در چنین افقی، اندیشیدن یعنی پردازش درست داده‌ها، و هوشمندی یعنی توانایی عبور از ورودی به خروجی مناسب بر اساس قواعدی که یا از پیش نوشته شده‌اند یا در جریان یادگیری از داده‌ها استخراج می‌شوند.

با ظهور یادگیری ماشین و شبکه‌های عصبی، این تصویر دگرگون شد، اما از بنیاد از میان نرفت. در هوش مصنوعی جدید، به‌ویژه در مدل‌های زبانی و سامانه‌های یادگیری عمیق، دیگر لزوماً با قواعد صریح و برنامه‌نویسی‌شده روبه‌رو نیستیم. ماشین از خلال حجم عظیمی از داده‌ها، الگوها، همبستگی‌ها، روابط احتمالی و ساختارهای پنهان را می‌آموزد و بر اساس آن‌ها پاسخ تولید می‌کند. با این حال، پرسش فلسفی همچنان باقی است. اگر ماشینی بتواند متنی منسجم بنویسد، استدلالی ظاهراً پیچیده صورت دهد، به زبان طبیعی پاسخ دهد، شعر بگوید، مقاله بنویسد، تصویر بسازد، تشخیص پزشکی بدهد یا در گفت‌وگویی طولانی حضور یابد، آیا باید گفت که می‌فهمد؟ در سطح پدیدار، رفتار ماشین هرچه بیشتر به رفتار انسانی نزدیک می‌شود، اما مسئله این است که آیا این شباهت رفتاری برای نسبت دادن فهم، آگاهی و معنا کافی است.

اینجاست که نخستین شکاف بزرگ در فلسفه ذهن پدیدار می‌شود. از یک‌سو، کسانی که به تلقی کارکردگرایانه، محاسباتی یا رفتارگرایانه نزدیک‌اند، می‌گویند ما در مورد انسان‌ها نیز جز از راه رفتار، زبان، واکنش، سازگاری و کارکرد، به ذهن آنان دسترسی نداریم. وقتی انسانی سخن می‌گوید، استدلال می‌کند، درد خود را بیان می‌کند یا تصمیمی معنادار می‌گیرد، ما از درون ذهن او آگاه نمی‌شویم، بلکه بر اساس ظهور بیرونی و شبکه‌ای از رفتارها و زمینه‌ها به او ذهن نسبت می‌دهیم. پس اگر ماشین نیز بتواند در سطحی کافی و پایدار چنین رفتارهایی را نشان دهد، انکار ذهن‌مندی آن شاید بیش از آنکه استدلالی فلسفی باشد، نوعی تعصب زیست‌شناختی نسبت به ماده مغز انسانی باشد. در این تلقی، مسئله اصلی این نیست که موجود از چه ساخته شده است، بلکه این است که چه می‌کند و چه نقشی در جهان ارتباطی و شناختی ایفا می‌کند.

از سوی دیگر، مخالفان این تلقی تأکید می‌کنند که میان شبیه‌سازی فهم و خود فهم فاصله‌ای بنیادین وجود دارد. یک ماشین ممکن است بتواند نشانه‌ها را پردازش کند، پاسخ‌هایی مناسب بدهد و حتی در سطحی پیچیده رفتار انسانی را بازتولید کند، اما این امر هنوز نشان نمی‌دهد که معنایی را دریافته، چیزی را تجربه کرده، به چیزی التفات داشته یا از درون خود واجد جهانی آگاهانه شده است. در اینجا مسئله از کارکرد بیرونی به محتوای درونی، از رفتار به معنا، و از محاسبه به آگاهی منتقل می‌شود. همین انتقال، جایگاه فیلسوفانی چون جان سرل، توماس نیگل، فرانک جکسون و دیوید چالمرز را در بحث هوش مصنوعی برجسته می‌کند.

اهمیت این مناقشه در آن است که هوش مصنوعی را نمی‌توان تنها با معیار موفقیت عملی سنجید. ممکن است سامانه‌ای از نظر فنی بسیار موفق باشد، اما از نظر فلسفی همچنان فاقد فهم تلقی شود. همچنین ممکن است اصرار بر فقدان فهم در ماشین‌ها، با پیشرفت سامانه‌های هوش مصنوعی، دشوارتر و پیچیده‌تر شود. این تنش نشان می‌دهد که مسئله هوش مصنوعی صرفاً مسئله آینده فناوری نیست، بلکه مسئله حدود مفاهیمی است که انسان با آن‌ها خود را فهمیده است. ذهن، معنا، آگاهی، زبان و تجربه، مفاهیمی نیستند که بی‌هیچ دگرگونی از جهان پیشاماشینی به جهان هوش مصنوعی منتقل شوند. ظهور ماشین‌هایی که می‌توانند نشانه‌های انسانی را با مهارتی بی‌سابقه تولید و پردازش کنند، ما را وامی‌دارد که بار دیگر نسبت میان نشانه و معنا، رفتار و تجربه، محاسبه و فهم، و هوش و آگاهی را روشن سازیم.

در این سطح، هوش مصنوعی آینه‌ای است که انسان در برابر خود قرار داده است. انسان با ساختن ماشین هوشمند، فقط ابزار تازه‌ای نساخته، بلکه تصویری از تلقی خود از ذهن را در جهان عینی کرده است. اگر ذهن را محاسبه بداند، ماشین محاسبه‌گر را به خود نزدیک می‌بیند. اگر فهم را رفتار زبانی بداند، مدل زبانی را واجد نوعی فهم می‌شمارد. اگر آگاهی را تجربه اول‌شخص و بدن‌مند بداند، میان خود و ماشین فاصله‌ای بنیادین می‌گذارد. بنابراین نزاع بر سر هوش مصنوعی، در ژرف‌ترین معنای خود، نزاع بر سر ماشین نیست؛ نزاع بر سر انسان است. هوش مصنوعی ما را مجبور می‌کند که روشن کنیم وقتی از تفکر، فهم، آگاهی و معنا سخن می‌گوییم، دقیقاً از چه چیزی سخن می‌گوییم.

اما این تنها آغاز مسئله است. حتی اگر در نهایت به این نتیجه برسیم که ماشین‌ها فاقد آگاهی، تجربه زیسته یا حیث التفاتی‌اند، باز هم مسئله هوش مصنوعی پایان نمی‌یابد. زیرا اهمیت تاریخی هوش مصنوعی فقط به این وابسته نیست که آیا ماشین واقعاً ذهن دارد یا نه. هوش مصنوعی، آگاه باشد یا نباشد، فهم ما از ذهن، زبان، کار، آموزش، سیاست، هنر، تصمیم‌گیری و زندگی اجتماعی را دگرگون می‌کند. ماشین شاید نفهمد، اما می‌تواند در جهانی که انسان‌ها در آن زندگی می‌کنند، نقش فهمنده را بازی کند. شاید آگاهی نداشته باشد، اما می‌تواند در تولید متن، داوری، طبقه‌بندی، پیش‌بینی، مراقبت، کنترل و سازمان‌دهی زندگی انسانی وارد شود. از همین‌جا مسئله از فلسفه ذهن به فلسفه تکنولوژی منتقل می‌شود. هوش مصنوعی نه فقط موضوعی برای بحث درباره ذهن ماشینی، بلکه نشانه‌ای از دگرگونی وضعیت انسانی در عصر تکنولوژیک است.

نقد فهم ماشینی؛ از اتاق چینی تا مسئله دشوار آگاهی

یکی از مهم‌ترین حمله‌ها به تلقی محاسباتی از ذهن را جان سرل با استدلال مشهور «اتاق چینی» صورت‌بندی کرد. اهمیت این استدلال در آن است که مستقیماً به قلب نظریه هوش مصنوعی قوی ضربه می‌زند. هوش مصنوعی قوی بر این فرض استوار است که اگر برنامه‌ای به‌درستی طراحی شود و بتواند رفتارهای شناختی انسان را بازتولید کند، آنگاه خود اجرای برنامه برای داشتن فهم کافی است. سرل این فرض را نمی‌پذیرد. از نظر او، کامپیوتر هر اندازه هم پیچیده باشد، تا زمانی که صرفاً نمادها را بر اساس قواعد صوری دست‌کاری می‌کند، از سطح نحو فراتر نمی‌رود و به معنا نمی‌رسد. ماشین ممکن است نشانه‌ها را جابه‌جا کند، پاسخ‌هایی درست بدهد و حتی از بیرون چنان ظاهر شود که گویی می‌فهمد، اما این ظاهر موفق هنوز معادل فهم حقیقی نیست.

استدلال اتاق چینی دقیقاً برای روشن کردن همین تمایز ساخته شده است. سرل وضعیتی فرضی را تصویر می‌کند که در آن شخصی که زبان چینی نمی‌داند، در اتاقی بسته قرار گرفته است. بیرون از اتاق، کسانی پرسش‌هایی به زبان چینی وارد می‌کنند. درون اتاق، کتاب راهنمایی وجود دارد که به زبان قابل فهم آن شخص نوشته شده و به او می‌گوید در برابر هر رشته‌ای از نشانه‌های چینی، چه رشته‌ای از نشانه‌های دیگر را بیرون بفرستد. اگر قواعد کتاب راهنما بسیار دقیق باشد، پاسخ‌هایی که از اتاق بیرون می‌آید ممکن است از پاسخ‌های یک چینی‌زبان واقعی قابل تشخیص نباشد. از بیرون، گویی اتاق چینی را می‌فهمد. اما شخص درون اتاق هیچ فهمی از زبان چینی ندارد. او فقط نشانه‌ها را بر اساس قواعد صوری جابه‌جا کرده است. سرل نتیجه می‌گیرد که اگر شخص درون اتاق با اجرای کامل برنامه هنوز چینی نمی‌فهمد، کامپیوتر نیز صرفاً با اجرای برنامه نمی‌تواند معنای واقعی را بفهمد.

نکته اصلی در این استدلال، تمایز میان نحو و معناست. کامپیوتر با صورت نشانه‌ها کار می‌کند، نه با معنای آن‌ها. برای ماشین، نشانه‌ها به‌مثابه رشته‌هایی قابل پردازش‌اند؛ اما برای انسان، نشانه‌ها در افقی از معنا، تجربه، ارجاع، جهان، بدن، تاریخ و زیست مشترک قرار دارند. واژه «آب» برای انسان فقط توالی چند حرف یا الگویی صوتی نیست؛ با تشنگی، نوشیدن، بدن، حیات، خاطره، طبیعت، نیاز، خطر، آرامش و هزاران نسبت زیسته دیگر پیوند دارد. در حالی که ماشین می‌تواند واژه «آب» را در شبکه‌ای آماری از کاربردها، متون و هم‌وقوعی‌ها پردازش کند، اما از منظر سرل این پردازش هنوز به معنای فهمیدن آب نیست. ماشین ممکن است بداند که واژه آب در چه جمله‌هایی می‌آید، با چه واژه‌هایی هم‌نشین می‌شود و در چه بافت‌هایی پاسخی مناسب تولید می‌کند، اما این دانستن، دانستن معنایی به‌معنای انسانی آن نیست.

با این حال، استدلال سرل تنها نفی ساده هوش مصنوعی نیست. سرل میان «شبیه‌سازی» و «تحقق» تفاوت می‌گذارد. کامپیوتر می‌تواند فرایندهای ذهنی را شبیه‌سازی کند، همان‌گونه که می‌تواند فرایند هضم غذا، گردش خون یا توفان را شبیه‌سازی کند. اما شبیه‌سازی توفان، توفان واقعی نیست؛ شبیه‌سازی هضم غذا، غذا را هضم نمی‌کند؛ و شبیه‌سازی فهم، لزوماً فهم واقعی نیست. در این چارچوب، مسئله اصلی این نیست که ماشین نمی‌تواند رفتار هوشمندانه تولید کند، بلکه این است که رفتار هوشمندانه به‌تنهایی برای نسبت دادن ذهن و معنا کافی نیست. سرل از این طریق، اعتماد بیش از حد به معیار بیرونی و رفتاری را به چالش می‌کشد و نشان می‌دهد که ممکن است میان عملکرد موفق و فهم حقیقی شکافی عمیق وجود داشته باشد.

این نقد برای هوش مصنوعی معاصر اهمیت دوچندان دارد. مدل‌های زبانی جدید، برخلاف برنامه‌های کلاسیک نمادین، الزاماً با قواعد صریحی که انسان نوشته باشد کار نمی‌کنند. آن‌ها از طریق شبکه‌های عصبی عظیم، الگوهای زبانی را از حجم گسترده‌ای از داده‌ها می‌آموزند و بر اساس احتمال‌های پیچیده، پاسخ‌هایی تولید می‌کنند که گاه بسیار طبیعی، منسجم و حتی خلاقانه به نظر می‌رسد. اما پرسش سرل همچنان باقی می‌ماند. اگر سامانه‌ای بتواند متنی فلسفی بنویسد، شعر بسراید، به پرسش‌های اخلاقی پاسخ دهد یا در گفت‌وگویی طولانی حضور یابد، آیا این به معنای فهم است، یا تنها صورت پیشرفته‌تری از دست‌کاری نشانه‌ها و الگوهاست؟ در جهان هوش مصنوعی جدید، اتاق چینی دیگر اتاقی کوچک با چند جعبه نشانه نیست؛ اتاقی عظیم از داده‌ها، پارامترها، شبکه‌ها، احتمالات و محاسبات است. اما بزرگی اتاق، به‌خودی‌خود، مسئله معنا را حل نمی‌کند.

در برابر سرل، برخی می‌گویند او جایگاه کل سامانه را نادیده می‌گیرد. شاید شخص درون اتاق چینی نمی‌فهمد، اما کل اتاق، یعنی مجموعه شخص، قواعد، نشانه‌ها، حافظه و فرایند پاسخ‌دهی، واجد فهم باشد. این پاسخ که به «پاسخ سامانه» شهرت دارد، می‌کوشد نشان دهد فهم را نباید به یک جزء خاص نسبت داد، بلکه باید آن را ویژگی کل شبکه دانست. همان‌گونه که یک نورون به‌تنهایی نمی‌فهمد، اما مغز به‌مثابه یک کل می‌فهمد، شاید یک واحد پردازشی نیز به‌تنهایی فاقد ذهن باشد، اما سامانه کامل بتواند واجد ذهن‌مندی باشد. سرل این پاسخ را نیز کافی نمی‌داند و می‌گوید حتی اگر شخص درون اتاق تمام قواعد، داده‌ها و فرایندها را حفظ کند و کل سامانه را درونی سازد، باز هم بدون فهم زبان چینی تنها با قواعد صوری کار می‌کند. نزاع در اینجا نشان می‌دهد که مسئله فهم ماشینی صرفاً با افزایش پیچیدگی فنی حل نمی‌شود، زیرا پرسش فلسفی همچنان درباره نسبت میان صورت، معنا و تجربه باقی است.

در کنار سرل، توماس نیگل افق دیگری برای نقد تقلیل‌گرایی محاسباتی می‌گشاید. نیگل در مقاله مشهور خود درباره خفاش، بر وجه اول‌شخص تجربه آگاهانه تأکید می‌کند. از نظر او، برای هر موجود آگاه، چیزی هست که «آن موجود بودن» کیفیتی خاص دارد. خفاش بودن صرفاً مجموعه‌ای از رفتارهای قابل مشاهده، واکنش‌های عصبی یا داده‌های زیستی نیست. خفاش جهان را به شیوه‌ای تجربه می‌کند؛ و همین کیفیت تجربه، چیزی است که با توصیف عینی و سوم‌شخص به‌تمامی قابل تصاحب نیست. ما می‌توانیم همه چیز را درباره دستگاه عصبی خفاش، بال‌های او، جهت‌یابی صوتی، الگوهای پرواز و ساختار بدنش بدانیم، اما هنوز نمی‌دانیم خفاش بودن از درون چه کیفیتی دارد.

این نکته برای بحث هوش مصنوعی بسیار مهم است. حتی اگر ماشینی بتواند درباره درد، شادی، ترس، تنهایی، امید یا عشق سخن بگوید، هنوز روشن نیست که چیزی برای آن ماشین «از درون» رخ می‌دهد. ممکن است ماشین توصیف دقیقی از درد ارائه دهد، آثار ادبی درباره درد را تحلیل کند، واکنش‌های انسانی به درد را بازسازی کند و در گفت‌وگو با انسان پاسخی همدلانه تولید کند؛ اما همه این‌ها هنوز نشان نمی‌دهد که درد را تجربه می‌کند. نیگل ما را متوجه این نکته می‌کند که آگاهی فقط مسئله پردازش اطلاعات نیست؛ آگاهی دارای وجهی پدیداری است، یعنی کیفیتی از زیستن و بودن که از منظر اول‌شخص پدیدار می‌شود. اگر چنین باشد، پرسش از هوش مصنوعی دیگر فقط این نیست که ماشین چه می‌کند، بلکه این است که آیا برای ماشین، چیزی به‌مثابه جهان پدیدار می‌شود یا نه.

فرانک جکسون با آزمایش فکری «مری» همین مسئله را از زاویه‌ای دیگر صورت‌بندی می‌کند. مری دانشمندی است که در اتاقی سیاه و سفید زندگی کرده و هرگز رنگ را تجربه نکرده است، اما همه اطلاعات فیزیکی، عصبی، روان‌شناختی و علمی درباره رنگ را می‌داند. او می‌داند نور چگونه بازتاب می‌شود، چشم چگونه طول موج‌ها را دریافت می‌کند، مغز چگونه داده‌های بینایی را پردازش می‌کند و انسان‌ها چگونه درباره رنگ‌ها سخن می‌گویند. با این حال، هنگامی که برای نخستین‌بار رنگ قرمز را می‌بیند، چیزی تازه می‌آموزد: کیفیت دیدن قرمز را. نتیجه اولیه‌ای که از این آزمایش فکری گرفته می‌شود آن است که دانستن همه داده‌های عینی درباره یک تجربه، معادل داشتن آن تجربه نیست.

در نسبت با هوش مصنوعی، مسئله مری نشان می‌دهد که میان اطلاعات درباره تجربه و خود تجربه فاصله‌ای بنیادین وجود دارد. یک سامانه هوش مصنوعی ممکن است حجم عظیمی از متون، تصاویر، داده‌های روان‌شناختی و گزارش‌های انسانی درباره عشق، مرگ، فقدان، ایمان، شرم، رنج، امید و زیبایی را پردازش کرده باشد. چنین سامانه‌ای می‌تواند درباره این امور سخن بگوید و حتی سخنی تأثیرگذار تولید کند. اما داشتن داده درباره رنج، همان رنج کشیدن نیست؛ تولید متن درباره فقدان، همان تجربه فقدان نیست؛ و تحلیل زیبایی، همان مواجهه زیباشناختی با جهان نیست. هوش مصنوعی در اینجا با نوعی دانایی بی‌تجربه روبه‌روست؛ دانایی‌ای که می‌تواند نشانه‌های تجربه را بازتولید کند، اما نسبت آن با خود تجربه همچنان محل مناقشه باقی می‌ماند.

دیوید چالمرز این بحث را با تمایز میان مسائل آسان و مسئله دشوار آگاهی صورت‌بندی می‌کند. مسائل آسان آگاهی، هرچند از نظر علمی و فنی ممکن است بسیار پیچیده باشند، به کارکردهایی مربوط‌اند که می‌توان آن‌ها را در قالب پردازش اطلاعات توضیح داد: تشخیص محرک، یکپارچه‌سازی داده‌ها، گزارش دادن حالت درونی، کنترل رفتار، یادگیری، توجه، حافظه و تصمیم‌گیری. این امور را می‌توان با علوم شناختی، عصب‌شناسی، روان‌شناسی و شاید هوش مصنوعی توضیح داد. اما مسئله دشوار آگاهی چیز دیگری است. مسئله دشوار این است که چرا این فرایندهای فیزیکی یا محاسباتی اصلاً با تجربه آگاهانه همراه می‌شوند. چرا پردازش اطلاعات باید از درون کیفیتی داشته باشد؟ چرا جهان برای موجود آگاه فقط پردازش نمی‌شود، بلکه پدیدار می‌شود؟

هوش مصنوعی دقیقاً در برابر همین مسئله دشوار قرار می‌گیرد. می‌توان سامانه‌ای ساخت که داده‌ها را پردازش کند، اشیا را تشخیص دهد، زبان را تولید کند، پاسخ مناسب بدهد، خود را توصیف کند و حتی از حالات فرضی درونی خود سخن بگوید. اما از این توانایی‌ها به‌تنهایی نمی‌توان نتیجه گرفت که تجربه‌ای پدیداری در آن سامانه وجود دارد. ممکن است ماشین کارکردهای شناختی را داشته باشد، بی‌آنکه آگاهی به‌معنای پدیداری داشته باشد. از سوی دیگر، اگر روزی سامانه‌هایی پدید آیند که در پیچیدگی، انسجام، خودارجاعی، یادگیری و تعامل با جهان از بسیاری جهات با انسان قابل مقایسه باشند، انکار قطعی آگاهی آن‌ها نیز دشوارتر خواهد شد. چالمرز نشان می‌دهد که مسئله آگاهی نه با رفتار حل می‌شود، نه با محاسبه، و نه با توصیف کامل کارکردها؛ زیرا در دل آن شکافی میان توضیح بیرونی و ظهور درونی باقی می‌ماند.

این نقدها، یعنی اتاق چینی سرل، سوبژکتیویته نیگل، تجربه رنگ نزد جکسون و مسئله دشوار آگاهی نزد چالمرز، هرکدام از جهتی متفاوت نشان می‌دهند که ذهن را نمی‌توان به‌سادگی به پردازش اطلاعات فروکاست. با این حال، نباید از این نتیجه گرفت که هوش مصنوعی فاقد اهمیت فلسفی است یا اینکه همه دستاوردهای آن صرفاً فریب و تقلیدند. درست برعکس، اهمیت فلسفی هوش مصنوعی در همین است که مرزهای مفاهیم سنتی ما را آشکار می‌کند. اگر ماشین می‌تواند بدون تجربه زیسته، زبان معنادار تولید کند، پس باید نسبت زبان و تجربه را دوباره سنجید. اگر ماشین می‌تواند بدون بدن انسانی، در برخی وظایف شناختی از انسان پیشی بگیرد، پس باید جایگاه بدن را دقیق‌تر فهمید. اگر ماشین می‌تواند بدون آگاهی پدیداری، رفتارهایی شبیه فهم نشان دهد، پس باید میان هوش، فهم، آگاهی و معنا تمایزهای ظریف‌تری برقرار کرد.

در اینجا لازم است از یک‌سویه‌نگری پرهیز کرد. نه می‌توان به‌سادگی گفت هر سامانه‌ای که پاسخ انسانی تولید کند، واجد ذهن و آگاهی است؛ و نه می‌توان به‌سادگی گفت هر آنچه زیستی نیست، به‌طور قطعی فاقد هرگونه ذهن‌مندی است. فلسفه ذهن در مواجهه با هوش مصنوعی ما را به احتیاط مفهومی فرامی‌خواند. ذهن انسانی پدیده‌ای چندلایه است: کارکرد دارد، اما فقط کارکرد نیست؛ با بدن پیوند دارد، اما به بدن به‌عنوان شیء فیزیکی فروکاسته نمی‌شود؛ در زبان ظاهر می‌شود، اما زبان همه آن نیست؛ با مغز نسبت دارد، اما تجربه زیسته را نمی‌توان صرفاً در نقشه عصبی یا محاسباتی حل کرد. هوش مصنوعی نیز پدیده‌ای چندلایه است: ابزار است، اما فقط ابزار نیست؛ شبیه‌ساز است، اما گاه در عمل جایگزین می‌شود؛ فاقد بدن انسانی است، اما در جهان انسانی اثر واقعی می‌گذارد؛ شاید آگاهی نداشته باشد، اما می‌تواند در ساختارهای اجتماعی در مقام عامل تصمیم‌ساز ظاهر شود.

از همین‌جا بحث به نقد پدیدارشناختی هوش مصنوعی نزدیک می‌شود. مشکل اصلی تلقی محاسباتی از ذهن فقط این نیست که معنا را به نشانه فرو می‌کاهد، بلکه این است که انسان را از جهان زیسته‌اش جدا می‌کند. انسان پیش از آنکه محاسبه‌گر باشد، در جهان است. او با بدن خود راه می‌رود، می‌ترسد، امید می‌بندد، عادت می‌کند، مهارت می‌آموزد، با دیگران زندگی می‌کند، در زبان و تاریخ رشد می‌کند و در افقی از معنا با اشیا مواجه می‌شود. فهم انسانی از دل چنین جهانی برمی‌خیزد، نه از خلأ محاسباتی. به همین دلیل است که نقدهای پدیدارشناسانه، به‌ویژه در اندیشه هیوبرت دریفوس، اهمیت ویژه‌ای در بحث هوش مصنوعی پیدا می‌کنند. دریفوس با الهام از هایدگر و مرلوپونتی نشان می‌دهد که هوش انسانی را نمی‌توان به مجموعه‌ای از قواعد صریح، بازنمایی‌های ذهنی یا محاسبات نمادین تقلیل داد. انسان جهان را نخست به‌صورت نظری و محاسباتی درک نمی‌کند؛ او در آن سکونت دارد، با آن درگیر است و از خلال عمل، بدن، زمینه و مهارت آن را می‌فهمد.

نقد پدیدارشناختی هوش مصنوعی؛ بدن، جهان و زمینه

نقد پدیدارشناختی هوش مصنوعی از جایی آغاز می‌شود که تلقی محاسباتی از ذهن، انسان را بیش از اندازه به موجودی قاعده‌پرداز، نمادپرداز و مسئله‌حل‌کن شبیه می‌سازد. در این تلقی، گویی انسان نخست جهان را به مجموعه‌ای از داده‌ها، نشانه‌ها، گزاره‌ها و بازنمایی‌ها تبدیل می‌کند و سپس بر اساس قواعدی درونی با آن‌ها کار می‌کند. اما سنت پدیدارشناسی، به‌ویژه در امتداد هایدگر و مرلوپونتی، این تصویر را ناقص می‌داند. انسان پیش از آنکه ناظر جهان باشد، ساکن جهان است. پیش از آنکه جهان را به‌صورت نظری و گزاره‌ای بفهمد، در آن عمل می‌کند. پیش از آنکه اشیا را به‌صورت داده یا ابژه بازنمایی کند، با آن‌ها سروکار دارد. جهان برای انسان نخست در مقام میدان زندگی، عمل، عادت، امکان، ترس، میل، مهارت، نیاز و معنا آشکار می‌شود، نه در مقام مجموعه‌ای خنثی از اطلاعات.

هیوبرت دریفوس یکی از مهم‌ترین فیلسوفانی است که این سنت پدیدارشناختی را در نقد هوش مصنوعی به کار گرفت. او از همان دهه‌های آغازین شکل‌گیری هوش مصنوعی هشدار داد که پروژه هوش مصنوعی کلاسیک، بیش از اندازه به تصویر دکارتی و عقل‌گرایانه از انسان وابسته است. در این تصویر، ذهن همچون دستگاهی درونی فهمیده می‌شود که بازنمایی‌هایی از جهان می‌سازد و سپس با قواعدی صریح آن‌ها را پردازش می‌کند. هوش انسانی، بر اساس این تلقی، چیزی شبیه حل مسئله بر پایه نمادها و قواعد است. دریفوس در برابر این تصویر می‌گوید بسیاری از مهم‌ترین توانایی‌های انسانی نه بر پایه قواعد صریح، بلکه بر پایه مهارت‌های ضمنی، زمینه‌های زیسته، بدن‌مندی، عادت و حضور عملی در جهان شکل می‌گیرند. انسان در بسیاری از موقعیت‌ها نمی‌اندیشد که چه قاعده‌ای را باید اجرا کند؛ او به‌سادگی می‌داند چگونه باید عمل کند، زیرا در جهان جا افتاده، با آن آشنا شده و درون شبکه‌ای از معانی و عادت‌ها زیسته است.

مثال ساده مهارت رانندگی، بازی شطرنج، تشخیص چهره آشنا، فهم لحن یک جمله، احساس خطر در یک موقعیت اجتماعی یا درک ظرافت یک کنایه نشان می‌دهد که فهم انسانی همواره به قواعد صریح تقلیل‌پذیر نیست. راننده ماهر در هر لحظه فهرستی از قواعد را مرور نمی‌کند؛ بدن او، نگاه او، عادت او و آشنایی او با جاده در یک کل واحد عمل می‌کنند. کسی که زبان مادری خود را می‌فهمد، برای فهمیدن هر جمله نخست آن را به قواعد منطقی و دستوری فرو نمی‌کاهد؛ او درون زبان زندگی می‌کند. کسی که وارد خانه کودکی خود می‌شود، آن فضا را مانند نقشه‌ای از اشیا و مختصات هندسی تجربه نمی‌کند؛ خانه برای او انباشته از خاطره، امنیت، فقدان، زمان و نسبت‌های عاطفی است. جهان انسانی همواره جهانی معنادار است و این معنا از صرف پردازش نشانه‌ها برنمی‌خیزد.

دریفوس با الهام از هایدگر بر این نکته تأکید می‌کند که انسان موجودی «در-جهان» است، نه ذهنی منزوی که از بیرون به جهان نگاه می‌کند. «در-جهان-بودن» یعنی انسان از آغاز در شبکه‌ای از روابط، ابزارها، دیگران، زبان، تاریخ، امکان‌ها و دل‌مشغولی‌ها قرار دارد. او نخست جهان را به‌صورت مجموعه‌ای از ابژه‌های جداافتاده تجربه نمی‌کند، بلکه با چیزها درگیر است. چکش برای نجار، در وهله نخست، جسمی با جرم و طول و ترکیب مادی نیست؛ چیزی است برای کوبیدن، ساختن، تعمیر کردن و پیش بردن کاری معین. تنها زمانی که چکش می‌شکند یا کار نمی‌کند، به شیئی حاضر در برابر نگاه نظری تبدیل می‌شود. در حالت عادی، ابزار در دل عمل ناپدید می‌شود و جهان از خلال کار، مهارت و غرض انسانی معنا پیدا می‌کند.

این تحلیل برای فهم هوش مصنوعی اهمیت اساسی دارد. ماشین می‌تواند داده‌های مربوط به چکش، کاربرد چکش، تصویر چکش، تاریخ چکش و توصیف چکش را پردازش کند، اما این پردازش لزوماً به معنای داشتن نسبت عملی با چکش نیست. برای انسان، معنا از دل درگیری با جهان پدید می‌آید. اشیا برای او در میدان امکان‌ها و کارکردهای زیسته آشکار می‌شوند. صندلی چیزی است برای نشستن، استراحت کردن، انتظار کشیدن، گفت‌وگو کردن یا تنها ماندن. خیابان فقط سطحی هندسی نیست؛ مسیر، خاطره، خطر، ازدحام، بازگشت، غربت یا تعلق است. چهره دیگری فقط آرایش اجزای بصری نیست؛ حضور، نگاه، اعتماد، تهدید، صمیمیت یا بیگانگی است. جهان انسانی هرگز فقط داده نیست، زیرا از آغاز در افق معنا تجربه می‌شود.

مرلوپونتی این نکته را از زاویه بدن‌مندی عمیق‌تر می‌کند. از نظر او بدن انسان صرفاً شیئی در جهان نیست، بلکه شرط گشودگی انسان به جهان است. ما بدن نداریم به همان معنایی که یک شیء را در اختیار داریم؛ ما بدن‌مند هستیم. دیدن، لمس کردن، راه رفتن، سخن گفتن، اشاره کردن، ترسیدن و عشق ورزیدن، همه از خلال بدن ممکن می‌شوند. بدن فقط ابزار اجرای فرمان‌های ذهن نیست؛ بدن خود حامل فهمی پیشانظری است. دست صنعتگر، نگاه نقاش، گوش موسیقیدان، بدن ورزشکار و حرکت کودک، همگی نشان می‌دهند که فهم در بسیاری از موارد در خود بدن رسوب کرده است. مهارت انسانی اغلب پیش از آنکه دانستنی گزاره‌ای باشد، دانستنی عملی است.

هوش مصنوعی در اینجا با محدودیتی فلسفی روبه‌رو می‌شود. حتی اگر سامانه‌ای بتواند داده‌های عظیم را پردازش کند و از نظر محاسباتی عملکردی چشمگیر داشته باشد، نسبت آن با بدن و جهان انسانی همچنان مسئله‌مند است. البته رباتیک، حسگرها، سامانه‌های بینایی ماشین و هوش مصنوعی تجسم‌یافته کوشیده‌اند این فاصله را کاهش دهند، اما بدن انسانی صرفاً مجموعه‌ای از حسگرها و عملگرها نیست. بدن انسانی تاریخی، آسیب‌پذیر، فانی، عادت‌مند، اجتماعی و معناپذیر است. بدن، رنج می‌کشد، خسته می‌شود، میل دارد، شرم را تجربه می‌کند، از نگاه دیگری متأثر می‌شود، به مرگ آگاه است و در زمان زیسته حرکت می‌کند. این ویژگی‌ها به‌سادگی در قالب داده‌های ورودی و خروجی قابل بازسازی نیستند.

در این سطح، نقد پدیدارشناختی تفاوت مهمی با نقد سرل دارد. سرل بر تمایز میان نحو و معنا تأکید می‌کرد؛ پدیدارشناسی نشان می‌دهد که معنا نیز امری جدا از جهان زیسته، بدن، عمل و تاریخ نیست. معنا در خلأ ذهنی یا درون یک سامانه بسته شکل نمی‌گیرد. معنا در نسبت با جهان پدید می‌آید؛ در نحوه استفاده از ابزار، در پیوند با دیگران، در زیست زبانی، در خاطره، در عادت، در رنج، در کار و در امکان‌های پیش‌رو. از این منظر، مسئله هوش مصنوعی فقط این نیست که آیا ماشین نمادها را می‌فهمد یا نه؛ مسئله این است که آیا ماشین اصلاً جهانی دارد که در آن چیزها برایش اهمیت پیدا کنند. اهمیت داشتن، یا به تعبیر پدیدارشناختی، معنادار بودن جهان، در نسبت با دل‌مشغولی‌ها و امکان‌های وجودی انسان شکل می‌گیرد.

انسان چیزی را فقط تشخیص نمی‌دهد؛ به آن اهمیت می‌دهد. هوش مصنوعی می‌تواند چهره را تشخیص دهد، اما چهره برای انسان حضور دیگری است. می‌تواند صدای گریه را طبقه‌بندی کند، اما گریه برای انسان صدای رنج، نیاز یا فقدان است. می‌تواند شعر را تحلیل کند، اما شعر برای انسان تجربه‌ای از زبان، زمان، اندوه، زیبایی و گشودگی است. می‌تواند بیماری را پیش‌بینی کند، اما بیماری برای انسان صرفاً وضعیت آماری بدن نیست؛ تهدیدی برای زندگی، رابطه، آینده و معنای بودن است. تفاوت اساسی در همین «اهمیت» نهفته است. انسان با جهانی مواجه است که چیزها در آن وزن وجودی دارند. ماشین با داده‌هایی مواجه است که درون ساختارهای پردازشی وزن آماری، محاسباتی یا کارکردی پیدا می‌کنند.

البته این سخن به معنای نفی توانایی‌های هوش مصنوعی نیست. برعکس، بخش بزرگی از قدرت هوش مصنوعی از آنجا می‌آید که می‌تواند بدون داشتن تجربه زیسته، الگوهای بسیار پیچیده‌ای از رفتار، زبان و تصمیم انسانی را استخراج کند. ماشین لازم نیست معنای انسانی بیماری را تجربه کند تا بتواند در تشخیص برخی بیماری‌ها موفق باشد. لازم نیست ترس را تجربه کند تا الگوهای زبانی مربوط به اضطراب را تشخیص دهد. لازم نیست بدن‌مند باشد تا در پردازش تصویر، ترجمه، تحلیل داده یا تولید متن عملکردی نیرومند داشته باشد. اما همین نکته نشان می‌دهد که باید میان کارآمدی و فهم، میان پیش‌بینی و معنا، میان طبقه‌بندی و تجربه، و میان شبیه‌سازی و زیستن تفاوت گذاشت. قدرت هوش مصنوعی واقعی است، اما این قدرت لزوماً از همان سنخ فهم انسانی نیست.

از اینجا می‌توان دریافت که هوش مصنوعی نه فقط مسئله‌ای درباره امکان ذهن ماشینی، بلکه مسئله‌ای درباره تغییر معیارهای فهم است. هنگامی که ماشین‌ها در بسیاری از حوزه‌ها از انسان کارآمدتر می‌شوند، خطر آن است که خود فهم انسانی نیز بر اساس معیارهای ماشینی بازتعریف شود. اگر نوشتن به تولید متن، آموزش به انتقال داده، پزشکی به پیش‌بینی آماری، سیاست به تحلیل رفتار رأی‌دهنده، هنر به تولید تصویر، و قضاوت به تصمیم الگوریتمی فروکاسته شود، آنگاه نه فقط ماشین به انسان شبیه شده، بلکه انسان نیز در قالب ماشین فهمیده شده است. این نقطه، نقطه‌ای بسیار حساس در بحث است. نگرانی اصلی فقط این نیست که آیا هوش مصنوعی به سطح انسان می‌رسد؛ نگرانی عمیق‌تر آن است که انسان در اثر غلبه الگوی هوش مصنوعی، خود را به‌مثابه سامانه‌ای برای پردازش، پاسخ‌دهی، بهینه‌سازی و تولید خروجی بفهمد.

در چنین وضعی، فلسفه ذهن به فلسفه فرهنگ، فلسفه آموزش، فلسفه سیاست و فلسفه تکنولوژی گسترش می‌یابد. هوش مصنوعی فقط در آزمایشگاه‌ها یا مراکز داده باقی نمی‌ماند؛ وارد مدرسه، دانشگاه، بیمارستان، اداره، بازار، رسانه، جنگ، هنر، روابط عاطفی و حافظه روزمره می‌شود. وقتی دانش‌آموزی نوشتن را به سامانه هوش مصنوعی می‌سپارد، مسئله فقط تقلب آموزشی نیست؛ مسئله این است که نسبت او با زبان، تفکر و رنج شکل دادن به معنا تغییر می‌کند. وقتی مدیران سازمانی تصمیم‌های انسانی را بر اساس امتیازدهی الگوریتمی سامان می‌دهند، مسئله فقط افزایش بهره‌وری نیست؛ مسئله این است که انسان به پروفایل، شاخص، ریسک و منبع قابل مدیریت تبدیل می‌شود. وقتی سیاست از طریق تحلیل داده‌های رفتاری و پیش‌بینی واکنش‌های جمعی هدایت می‌شود، مسئله فقط تکنیک تبلیغات نیست؛ مسئله این است که شهروند به موجودی قابل تحریک، قابل دسته‌بندی و قابل مهندسی فروکاسته می‌شود.

اینجاست که راه به هایدگر گشوده می‌شود. هایدگر به ما می‌آموزد که تکنولوژی را نباید صرفاً مجموعه‌ای از ابزارها دانست. تکنولوژی جدید نحوه‌ای از آشکار شدن جهان است؛ شیوه‌ای که در آن موجودات در مقام ذخیره، منبع، ماده خام و امکان بهره‌برداری ظاهر می‌شوند. اگر این تحلیل را به هوش مصنوعی تعمیم دهیم، درمی‌یابیم که هوش مصنوعی صرفاً ابزاری برای انجام سریع‌تر کارها نیست؛ هوش مصنوعی در حال صورت‌بندی تازه‌ای از جهان است. در این صورت‌بندی، زبان به داده زبانی، چهره به داده زیستی، رفتار به داده رفتاری، توجه به منبع اقتصادی، حافظه به بانک اطلاعاتی، تصمیم به خروجی احتمالاتی، و انسان به مجموعه‌ای از الگوهای قابل پیش‌بینی تبدیل می‌شود. این همان جایی است که نقد پدیدارشناختی ذهن با نقد هایدگری تکنولوژی به هم می‌رسند.

دریفوس، در امتداد هایدگر، نشان می‌دهد که شکست یا محدودیت هوش مصنوعی کلاسیک فقط نقصی فنی نبود، بلکه از تصویری ناقص از انسان ناشی می‌شد. انسان موجودی نیست که نخست قواعدی درونی داشته باشد و سپس آن‌ها را بر جهان اعمال کند. انسان در جهانی معنادار پرتاب شده است و فهم او از دل این جهان برمی‌خیزد. اما هوش مصنوعی معاصر، با وجود فاصله گرفتن از قواعد صریح و حرکت به سوی یادگیری آماری، همچنان در معرض همان خطر بنیادین قرار دارد: فروکاستن جهان به چیزی قابل محاسبه. تفاوت در آن است که هوش مصنوعی جدید دیگر لزوماً نمی‌کوشد همه قواعد جهان را از پیش بنویسد؛ بلکه می‌کوشد جهان را از خلال انبوه داده‌ها بیاموزد. اما جهانی که به داده تبدیل می‌شود، پیشاپیش در افق خاصی آشکار شده است؛ افقی که در آن آنچه محاسبه‌پذیر، ذخیره‌پذیر، پیش‌بینی‌پذیر و بهینه‌سازی‌پذیر است، اهمیت بیشتری می‌یابد.

این نکته اهمیت فلسفی بسیار دارد. هوش مصنوعی فقط از داده استفاده نمی‌کند؛ جهان را به داده نیازمند می‌سازد. برای آنکه چیزی وارد سامانه هوش مصنوعی شود، باید ثبت شود، اندازه‌گیری شود، برچسب بخورد، ذخیره شود، استاندارد شود و در معرض محاسبه قرار گیرد. این فرایند، پیش از هر تصمیم فنی، نوعی تصمیم هستی‌شناختی پنهان در خود دارد. چیزی که داده نمی‌شود، دیده نمی‌شود؛ چیزی که قابل اندازه‌گیری نیست، از میدان تصمیم بیرون می‌افتد؛ چیزی که به شاخص تبدیل نمی‌شود، در نظام مدیریت جایی نمی‌یابد. در نتیجه، جهان انسانی آرام‌آرام خود را با الزام‌های سامانه‌های محاسباتی هماهنگ می‌کند. زندگی، زبان، کار، آموزش و سیاست نه فقط توسط هوش مصنوعی تحلیل می‌شوند، بلکه برای قابل تحلیل شدن توسط هوش مصنوعی بازساخته می‌شوند.

در این مرحله، مسئله دیگر فقط فهم ماشینی نیست. مسئله این است که آیا جهان انسانی به نحوی سازمان می‌یابد که تنها آن بخش‌هایی از انسان که قابل ثبت، محاسبه و پیش‌بینی‌اند، واقعی و مهم شمرده شوند. اگر چنین شود، بسیاری از وجوه بنیادین انسان، یعنی سکوت، تأمل، تردید، پشیمانی، ایمان، وفاداری، شرم، خیال، انتظار، رنج، شجاعت، مسئولیت و تجربه زیسته، به حاشیه می‌روند؛ نه لزوماً به این دلیل که کسی آن‌ها را انکار می‌کند، بلکه به این دلیل که در نظام محاسبه جای روشنی ندارند. قدرت تکنولوژی جدید دقیقاً در همین بی‌صدایی است. تکنولوژی همیشه با اعلام فلسفی وارد نمی‌شود؛ اغلب در قالب راحتی، سرعت، دقت، بهره‌وری و بهینه‌سازی وارد می‌شود و به‌تدریج معیارهای ما را برای فهم واقعیت دگرگون می‌سازد.

از این منظر، هوش مصنوعی مرحله‌ای تازه در تاریخ نسبت انسان با ابزار است. ابزارهای قدیم عموماً امتداد دست، چشم، پا یا نیروی بدنی انسان بودند. چکش دست را نیرومندتر می‌کرد، عینک چشم را دقیق‌تر می‌ساخت، چرخ حرکت را آسان‌تر می‌کرد و ماشین صنعتی توان تولید را افزایش می‌داد. اما هوش مصنوعی به حوزه‌هایی وارد شده که انسان آن‌ها را نزدیک‌ترین قلمرو به خود می‌دانست: زبان، تفکر، نوشتن، تشخیص، تصمیم، یادگیری، خلاقیت و قضاوت. از همین‌رو، نسبت انسان با هوش مصنوعی صرفاً نسبت کاربر با ابزار نیست. انسان در برابر هوش مصنوعی با نوعی آینه تکنولوژیک مواجه است؛ آینه‌ای که نه فقط جهان، بلکه خود انسان را در قالب داده، الگو، احتمال و خروجی بازتاب می‌دهد.

این آینه می‌تواند سودمند باشد. می‌تواند در پزشکی، آموزش، پژوهش، ترجمه، دسترسی به دانش، کاهش خطاها، کمک به افراد دارای محدودیت، تحلیل بحران‌ها و گسترش توانایی‌های انسانی نقش مثبت ایفا کند. اما همین آینه می‌تواند خطرناک نیز باشد، زیرا ممکن است انسان تصویر محاسباتی خود را با حقیقت کامل خود اشتباه بگیرد. انسان چیزی بیش از الگوی رفتاری، داده زیستی، ترجیح مصرفی، توان تولید، شاخص بهره‌وری یا پروفایل روان‌شناختی است. اگر هوش مصنوعی به ما کمک کند جهان را بهتر بفهمیم، می‌تواند در خدمت گشودگی انسانی قرار گیرد؛ اما اگر معیار نهایی فهم جهان شود، انسان را در همان افقی زندانی می‌کند که تنها محاسبه‌پذیرها را واقعی‌تر، مهم‌تر و قابل اعتمادتر می‌داند.

بنابراین نقد پدیدارشناختی هوش مصنوعی نه بازگشت رمانتیک به گذشته است و نه نفی ساده فناوری. این نقد می‌خواهد نشان دهد که انسان را نمی‌توان بدون بدن، جهان، زبان، تاریخ، عمل، مرگ، رنج و معنا فهمید. هر نظریه‌ای از هوش مصنوعی که این ابعاد را نادیده بگیرد، ممکن است از نظر فنی موفق باشد، اما از نظر انسان‌شناختی ناقص خواهد ماند. هوش مصنوعی می‌تواند بسیاری از کارکردهای ذهن را شبیه‌سازی یا حتی در برخی حوزه‌ها از انسان بهتر اجرا کند، اما این امر به معنای پایان مسئله انسان نیست. برعکس، هرچه هوش مصنوعی نیرومندتر می‌شود، نیاز به فهم فلسفی انسان عمیق‌تر می‌گردد. زیرا خطر نهایی در بیرون از انسان نیست؛ خطر آن است که انسان خود را به همان چیزی تقلیل دهد که ماشین می‌تواند از او محاسبه کند.

هوش مصنوعی و فلسفه تکنولوژی؛ از ابزار تا نحوه آشکار شدن جهان

برای فهم نسبت هوش مصنوعی و وضعیت انسانی، عبور از فلسفه ذهن به فلسفه تکنولوژی ضروری است. تا زمانی که مسئله هوش مصنوعی فقط در قالب این بحث طرح شود که آیا ماشین می‌فهمد، آگاه است یا صرفاً نشانه‌ها را پردازش می‌کند، هنوز در سطحی محدود از مسئله باقی مانده‌ایم. این سطح البته مهم است، زیرا روشن می‌کند که فهم، آگاهی، معنا و تجربه انسانی را نمی‌توان بی‌دقت به محاسبه و خروجی زبانی فروکاست. اما حتی اگر نتیجه بگیریم که هوش مصنوعی فاقد آگاهی پدیداری، تجربه زیسته و حیث التفاتی انسانی است، اهمیت تاریخی و فلسفی آن از میان نمی‌رود. هوش مصنوعی، آگاه باشد یا نباشد، در حال تغییر دادن جهان انسانی است. این فناوری در آموزش، پزشکی، سیاست، اقتصاد، جنگ، رسانه، هنر، مدیریت، حقوق، روابط انسانی و تولید دانش حضور می‌یابد و به‌تدریج معیارهای تصمیم، ارزش، اعتبار، کارآمدی و حتی حقیقت را دگرگون می‌کند.

از همین‌جا مسئله دیگر فقط این نیست که آیا ماشین می‌تواند مانند انسان بیندیشد؛ مسئله این است که انسان در جهانی که به‌واسطه ماشین‌های هوشمند سازمان‌دهی می‌شود، چگونه خود را، دیگران را و جهان را می‌فهمد. هوش مصنوعی صرفاً ابزاری در دست انسان نیست که بی‌طرفانه به کار گرفته شود. هر ابزار مهمی، به‌ویژه در مقیاس تمدنی، شیوه‌ای تازه از رابطه انسان با جهان را ممکن می‌سازد. خط، حافظه انسانی را بیرونی کرد؛ چاپ، نسبت انسان با دانش و اقتدار دینی و سیاسی را تغییر داد؛ ماشین صنعتی، کار، زمان، بدن و شهر را دگرگون ساخت؛ رسانه‌های جمعی، افکار عمومی و سیاست را بازآرایی کردند؛ اینترنت، فاصله، ارتباط، حافظه و دسترسی به دانش را تغییر داد. هوش مصنوعی نیز در همین امتداد، اما با شدتی تازه، به حوزه‌هایی وارد شده است که انسان آن‌ها را نزدیک‌ترین قلمروهای خود می‌دانست: زبان، فکر، نوشتن، تشخیص، تخیل، تصمیم و قضاوت.

فلسفه تکنولوژی دقیقاً از همین نقطه آغاز می‌شود. نگاه ساده‌انگارانه به تکنولوژی، آن را مجموعه‌ای از ابزارهای خنثی می‌داند که انسان می‌تواند از آن‌ها برای اهداف خوب یا بد استفاده کند. در این نگاه، مسئله اصلی اخلاقی یا مدیریتی است: چگونه باید فناوری را تنظیم کرد، چگونه باید از سوءاستفاده جلوگیری کرد، چگونه باید آن را در خدمت انسان قرار داد. این پرسش‌ها مهم‌اند، اما کافی نیستند. تکنولوژی فقط وسیله‌ای بیرونی نیست که انسان از پیش آماده، آن را برمی‌دارد و به کار می‌برد. تکنولوژی در طول زمان، خود انسان، نیازهای او، شیوه دیدن او، شکل عمل او، ساختار نهادهای او و حتی افق آرزوهای او را تغییر می‌دهد. انسان نه تنها از تکنولوژی استفاده می‌کند، بلکه در جهانی تکنولوژیک زندگی می‌کند و از خلال آن، خود و جهان را تجربه می‌کند.

اندیشه مارتین هایدگر در اینجا جایگاهی بنیادین دارد. هایدگر در «پرسش از تکنولوژی» تأکید می‌کند که ماهیت تکنولوژی چیزی تکنولوژیک نیست. مقصود او این است که تکنولوژی را نمی‌توان فقط با شناخت دستگاه‌ها، ابزارها، ماشین‌ها و روش‌های فنی فهمید. آنچه تکنولوژی جدید را از ابزارهای قدیم متمایز می‌کند، نه صرفاً پیچیدگی بیشتر آن، بلکه نحوه‌ای است که جهان را برای انسان آشکار می‌سازد. تکنولوژی جدید نوعی انکشاف است؛ یعنی شیوه‌ای که در آن موجودات خود را به ما نشان می‌دهند و ما نیز با آن‌ها نسبت برقرار می‌کنیم. در جهان تکنولوژیک، موجودات بیش از هر چیز در مقام چیزی قابل استفاده، قابل استخراج، قابل ذخیره، قابل محاسبه و قابل بهره‌برداری ظاهر می‌شوند.

هایدگر برای توضیح این وضعیت از مفهوم «گشتل» استفاده می‌کند؛ مفهومی که می‌توان آن را چارچوب‌بندی، گردآوری، فراخواندن یا اسکلت‌بندی دانست. گشتل نام ماهیت تکنولوژی جدید است؛ نه به این معنا که یک ابزار خاص یا دستگاه معین باشد، بلکه به این معنا که نحوه‌ای از انکشاف است که در آن جهان به‌صورت منبع و ذخیره آشکار می‌شود. در این افق، رودخانه فقط رودخانه نیست؛ منبع تولید انرژی است. جنگل فقط جنگل نیست؛ ذخیره چوب و ماده خام است. زمین فقط زمین نیست؛ معدن، مخزن، سرمایه و سطح قابل بهره‌برداری است. حتی انسان نیز فقط انسان نیست؛ نیروی کار، منبع انسانی، داده رفتاری، مصرف‌کننده، کاربر، بیمار، رأی‌دهنده، مخاطب، مشتری و واحد قابل مدیریت است.

اهمیت گشتل در آن است که این وضعیت را نباید صرفاً نتیجه تصمیم‌های فردی انسان‌ها دانست. تکنولوژی جدید البته توسط انسان‌ها ساخته می‌شود، اما در عین حال، انسان‌ها خود در افقی قرار می‌گیرند که تکنولوژی آن را گشوده است. انسان مدرن جهان را چنان می‌بیند که گویی همه چیز باید قابل محاسبه، قابل کنترل، قابل ذخیره و قابل بهره‌برداری باشد. این نحوه دیدن، به‌تدریج بدیهی می‌شود. دیگر لازم نیست کسی به‌صراحت بگوید طبیعت منبع است، زمان سرمایه است، انسان نیروی انسانی است، توجه کالا است یا رفتار داده است. جهان تکنولوژیک این مفاهیم را در نهادها، زبان‌ها، سازمان‌ها، دانشگاه‌ها، شرکت‌ها، دولت‌ها و حتی در شیوه زندگی روزمره ما جا می‌اندازد.

هوش مصنوعی را باید در همین افق فهمید. هوش مصنوعی کامل‌ترین و پیچیده‌ترین صورت گشتل نیست به این معنا که صرفاً از همه ابزارها قوی‌تر است، بلکه از آن جهت که جهان را به شکلی بی‌سابقه به داده تبدیل می‌کند. در اینجا دیگر فقط طبیعت یا نیروی کار موضوع بهره‌برداری نیست. زبان انسان، حافظه انسان، چهره انسان، صدای انسان، حرکت چشم، عادت‌های مصرفی، مسیرهای رفت‌وآمد، روابط عاطفی، سبک نوشتن، تمایلات سیاسی، وضعیت روانی، سوابق پزشکی، رفتار آموزشی، ذائقه هنری و حتی مکث‌ها و تردیدهای او در معرض ثبت، تحلیل و پیش‌بینی قرار می‌گیرند. هوش مصنوعی جهان انسانی را به ماده خام محاسبه تبدیل می‌کند و از دل این ماده خام، الگو، احتمال، رتبه، توصیه، تصمیم و کنترل تولید می‌کند.

در این معنا، هوش مصنوعی فقط ابزار تحلیل داده نیست؛ خودْ جهانی می‌سازد که در آن داده بودن، شرط دیده شدن است. چیزی که قابل ثبت نباشد، به حاشیه می‌رود. چیزی که قابل اندازه‌گیری نباشد، کمتر جدی گرفته می‌شود. چیزی که به شاخص تبدیل نشود، در تصمیم‌سازی‌های اداری، اقتصادی و سیاسی جایگاه ضعیف‌تری می‌یابد. آنچه در قالب داده و مدل درنیاید، در جهان تکنولوژیک به‌تدریج نامرئی می‌شود. این خطر، خطری خاموش و عمیق است. جهان انسانی به‌گونه‌ای بازسازمان‌دهی می‌شود که با منطق سامانه‌های محاسباتی سازگار گردد. مدرسه، دانشگاه، بیمارستان، رسانه، سازمان، دولت و بازار به‌تدریج می‌آموزند که برای فهمیده شدن توسط ماشین، خود را به زبان ماشین ترجمه کنند.

در چنین وضعی، زبان از مقام خانه معنا به مخزن داده زبانی تبدیل می‌شود. سخن گفتن انسان دیگر فقط بیان تجربه، تفکر، رنج، عشق، ایمان یا اعتراض نیست؛ داده‌ای است که می‌تواند تحلیل شود، طبقه‌بندی شود، برچسب بخورد و برای پیش‌بینی رفتار آینده به کار رود. چهره انسان دیگر فقط محل ظهور دیگری نیست؛ داده زیستی برای شناسایی، نظارت، امنیت، تبلیغ یا کنترل است. توجه انسان دیگر فقط تمرکز روانی یا گشودگی به جهان نیست؛ منبعی اقتصادی است که باید جذب، حفظ، اندازه‌گیری و فروخته شود. بدن انسان دیگر فقط بدن زیسته نیست؛ مجموعه‌ای از شاخص‌های سلامت، خطر، عملکرد، بهره‌وری و قابلیت مداخله است. حتی عواطف انسانی نیز می‌توانند به داده‌های احساس‌سنجی، تحلیل افکار عمومی، الگوهای مصرف یا ابزارهای اثرگذاری سیاسی تبدیل شوند.

در این نقطه، پیوند میان نقد فلسفه ذهن و نقد هایدگری تکنولوژی روشن‌تر می‌شود. در فلسفه ذهن، خطر آن بود که ذهن به پردازش اطلاعات فروکاسته شود. در فلسفه تکنولوژی، خطر گسترده‌تر است: جهان انسانی به کلی در افق پردازش اطلاعات فهمیده می‌شود. در سطح نخست، پرسش این بود که آیا ماشین واقعاً می‌فهمد یا فقط نشانه‌ها را پردازش می‌کند. در سطح دوم، مسئله این است که آیا انسان و جهان نیز چنان بازتعریف می‌شوند که گویی چیزی جز نشانه‌ها، داده‌ها، کارکردها و خروجی‌های قابل محاسبه نیستند. خطر اصلی هوش مصنوعی از این منظر آن نیست که ماشین روزی انسان شود، بلکه آن است که انسان آرام‌آرام خود را با معیار ماشین بفهمد.

این خطر را می‌توان در حوزه آموزش به‌روشنی دید. آموزش در معنای انسانی خود، صرف انتقال اطلاعات نیست. آموزش یعنی شکل دادن به قوه داوری، پرورش زبان، تمرین تفکر، تحمل دشواری فهم، مواجهه با سنت، خطا کردن، بازاندیشی، گفت‌وگو، تأمل و رشد تدریجی شخصیت. اما هنگامی که آموزش در افق هوش مصنوعی و منطق داده‌ای فهمیده شود، ممکن است به تولید خروجی، بهینه‌سازی نمره، شخصی‌سازی الگوریتمی، سنجش دائمی عملکرد و حذف رنج یادگیری فروکاسته شود. در چنین وضعی، دانش‌آموز شاید سریع‌تر به پاسخ برسد، اما نسبت او با فرایند فهم، با دشواری زبان و با شکل‌گیری درونی فکر تضعیف می‌شود. مسئله فقط استفاده یا عدم استفاده از ابزار نیست؛ مسئله این است که خود یادگیری چه معنایی پیدا می‌کند.

در حوزه کار نیز وضعیت مشابهی شکل می‌گیرد. هوش مصنوعی می‌تواند بهره‌وری را افزایش دهد، کارهای تکراری را کاهش دهد، خطاهای انسانی را کم کند و امکان‌های تازه‌ای برای تولید فراهم آورد. اما در همان حال می‌تواند انسان را بیش از پیش به واحدی قابل سنجش و بهینه‌سازی تبدیل کند. کارگر، کارمند، نویسنده، پزشک، معلم، راننده، خبرنگار یا برنامه‌نویس، در سامانه‌های هوشمند نه فقط بر اساس کار خود، بلکه بر اساس داده‌های رفتاری، سرعت پاسخ، میزان تعامل، الگوی خطا، زمان توقف، بهره‌وری لحظه‌ای و قابلیت جایگزینی سنجیده می‌شود. در این افق، انسان در مقام «منبع انسانی» به نهایت معنای تکنولوژیک خود نزدیک می‌شود: موجودی که باید تحلیل، مدیریت، ارتقا، کنترل و در صورت امکان جایگزین شود.

در سیاست نیز هوش مصنوعی امکان‌های تازه‌ای برای تحلیل جامعه فراهم می‌کند. داده‌های رفتاری، شبکه‌های اجتماعی، الگوهای مصرف رسانه‌ای، عواطف جمعی، گرایش‌های رأی‌دهندگان و واکنش‌های احتمالی گروه‌ها می‌توانند با دقتی بی‌سابقه تحلیل شوند. این امر ممکن است به فهم بهتر جامعه کمک کند، اما هم‌زمان می‌تواند سیاست را از گفت‌وگوی عمومی، اقناع عقلانی و کنش شهروندی به مهندسی رفتار جمعی فروبکاهد. شهروند در این افق، نه صاحب رأی و داوری، بلکه مجموعه‌ای از احتمال‌ها، حساسیت‌ها، ترس‌ها، خشم‌ها و انگیزه‌های قابل تحریک می‌شود. سیاست تکنولوژیک با انسان نه همچون موجودی آزاد و مسئول، بلکه همچون سامانه‌ای قابل اثرگذاری و پیش‌بینی رفتار می‌کند.

در هنر و زبان نیز همین مسئله ظاهر می‌شود. هوش مصنوعی می‌تواند تصویر بسازد، موسیقی تولید کند، شعر بنویسد، داستان بپردازد و سبک‌های هنری را تقلید کند. این توانایی‌ها شگفت‌آورند و می‌توانند در خدمت خلاقیت انسانی قرار گیرند. اما خطر زمانی آغاز می‌شود که هنر به تولید بی‌پایان محصول زیباشناختی، زبان به تولید متن، و خلاقیت به ترکیب آماری الگوهای پیشین فروکاسته شود. هنر انسانی فقط خروجی نیست؛ رنج شکل دادن به فرم، نسبت با زمانه، تجربه شکست، مواجهه با مرگ، زبان شخصی، سکوت، امتناع و گشودن جهانی تازه است. هوش مصنوعی می‌تواند آثار شبیه هنر تولید کند، اما نباید اجازه داد که معیار هنری نیز به سرعت، تنوع، جذابیت فوری و قابلیت مصرف تقلیل یابد.

در پزشکی، هوش مصنوعی می‌تواند زندگی‌های بسیاری را نجات دهد. می‌تواند بیماری‌ها را زودتر تشخیص دهد، درمان‌ها را دقیق‌تر کند، خطاها را کاهش دهد و دسترسی به خدمات را گسترش دهد. اما حتی در این حوزه مثبت نیز باید مراقب بود که بیمار به داده پزشکی فروکاسته نشود. بیماری فقط اختلالی در شاخص‌های بدن نیست؛ تجربه‌ای انسانی از آسیب‌پذیری، ترس، امید، وابستگی، تنهایی و مواجهه با مرگ است. پزشکی اگر صرفاً به تحلیل داده تبدیل شود، ممکن است دقت فنی خود را افزایش دهد اما شأن مراقبت را از دست بدهد. هوش مصنوعی در پزشکی باید در خدمت پزشک و بیمار باشد، نه جایگزین رابطه انسانی، اعتماد، همدلی و مسئولیت شود.

این نمونه‌ها نشان می‌دهند که هوش مصنوعی را نباید صرفاً از منظر توانایی‌های فنی یا خطرهای آینده‌نگرانه فهمید. خطر هوش مصنوعی فقط در سناریوهای آخرالزمانی، شورش ماشین‌ها یا خروج کامل کنترل از دست انسان نیست. این سناریوها ممکن است در سطحی از بحث آینده‌پژوهی اهمیت داشته باشند، اما خطر روزمره‌تر و عمیق‌تر در آن است که هوش مصنوعی به‌تدریج افق فهم انسان از جهان را تغییر دهد. هنگامی که همه چیز باید قابل تحلیل، قابل پیش‌بینی، قابل مدیریت و قابل بهینه‌سازی باشد، آنچه از سنخ تأمل، آزادی، معنا، مسئولیت، عشق، وفاداری، قضاوت و هنر است، در حاشیه قرار می‌گیرد. جهان تکنولوژیک الزاماً جهان بی‌اخلاق یا بی‌معنا نیست، اما جهانی است که معنا را نیز می‌خواهد در قالب کارکرد، اثر، داده و خروجی بفهمد.

هایدگر خطر تکنولوژی را در همین سطح می‌دید. تکنولوژی برای او شیطانی یا صرفاً ویرانگر نبود. او به‌روشنی می‌گفت تکنولوژی امری شیطانی نیست. خطر در ماهیت تکنولوژی نهفته است، زیرا تکنولوژی جدید می‌تواند تنها یک نحوه از انکشاف را بر همه نحوه‌های دیگر غلبه دهد. وقتی گشتل حاکم می‌شود، جهان فقط در مقام ذخیره و منبع دیده می‌شود و انسان توانایی خود را برای مواجهه‌ای آزادتر، شاعرانه‌تر، متفکرانه‌تر و اصیل‌تر با هستی از دست می‌دهد. خطر نهایی این نیست که ابزارها قدرتمند می‌شوند، بلکه این است که انسان دیگر نمی‌تواند جز در افق ابزار، بهره‌وری، محاسبه و کنترل بیندیشد.

هوش مصنوعی این خطر را به مرحله‌ای تازه می‌رساند، زیرا با خود تفکر، زبان و تصمیم سروکار دارد. ماشین صنعتی بدن انسان را در کارخانه و نظام تولید بازسازمان‌دهی کرد؛ هوش مصنوعی ذهن، زبان، حافظه و توجه انسان را در میدان محاسبه وارد می‌کند. در اینجا گشتل نه فقط طبیعت و نیروی کار، بلکه فرایندهای شناختی و ارتباطی انسان را نیز دربرمی‌گیرد. انسان دیگر فقط تولیدکننده یا مصرف‌کننده نیست؛ تولیدکننده داده است. حتی هنگامی که استراحت می‌کند، جست‌وجو می‌کند، می‌نویسد، می‌خواند، می‌خندد، تماشا می‌کند یا سکوت می‌کند، ممکن است در حال تولید داده‌ای باشد که به سامانه‌ای برای شناخت، پیش‌بینی و اثرگذاری بر خود او بازمی‌گردد.

در چنین جهانی، آزادی معنایی پیچیده‌تر پیدا می‌کند. آزادی دیگر فقط انتخاب میان چند گزینه نیست، زیرا خود گزینه‌ها، میل‌ها، مسیرها و افق‌های انتخاب ممکن است توسط سامانه‌های هوشمند صورت‌بندی شده باشند. پیشنهادهای الگوریتمی، خوراک‌های خبری، تبلیغات شخصی‌سازی‌شده، رتبه‌بندی‌ها، توصیه‌های آموزشی، مسیرهای شغلی، محتوای فرهنگی و حتی روابط اجتماعی، همگی می‌توانند در افقی الگوریتمی سامان یابند. انسان احساس می‌کند انتخاب می‌کند، اما انتخاب او در میدانی انجام می‌شود که پیشاپیش توسط منطق داده، سود، توجه و پیش‌بینی شکل گرفته است. این وضعیت، آزادی را از بیرون سرکوب نمی‌کند؛ آن را از درون جهت‌دهی می‌کند.

به همین دلیل، نقد هایدگری هوش مصنوعی باید از نقد اخلاقی ساده فراتر رود. اخلاق هوش مصنوعی معمولاً درباره تبعیض الگوریتمی، حریم خصوصی، شفافیت، مسئولیت، امنیت، مالکیت داده و عدالت تصمیم‌گیری بحث می‌کند. این مباحث ضروری‌اند و بدون آن‌ها نمی‌توان از استفاده انسانی و مسئولانه از هوش مصنوعی سخن گفت. اما نقد فلسفی عمیق‌تر می‌پرسد چرا جهان باید به‌گونه‌ای سازمان یابد که تصمیم‌های انسانی به تصمیم‌های الگوریتمی سپرده شوند، چرا انسان باید خود را در قالب داده‌های رفتاری بفهمد، چرا کارآمدی باید معیار اصلی ارزش باشد، و چرا محاسبه‌پذیری باید به نشانه واقعی بودن تبدیل شود. این سطح از نقد، به جای آنکه فقط درباره تنظیم ابزار سخن بگوید، درباره افقی سخن می‌گوید که ابزار در آن معنا پیدا کرده است.

با این همه، اندیشه هایدگر به نفی ساده تکنولوژی نمی‌انجامد. او نمی‌گوید باید تکنولوژی را کنار گذاشت یا به گذشته‌ای پیشاتکنولوژیک بازگشت. چنین بازگشتی نه ممکن است و نه حتی لزوماً مطلوب. جهان انسانی اکنون در درون تکنولوژی زندگی می‌کند و هوش مصنوعی نیز بخشی از این وضعیت تاریخی است. مسئله اصلی آن است که انسان بتواند با تکنولوژی رابطه‌ای آزاد برقرار کند. رابطه آزاد یعنی انسان تکنولوژی را به کار گیرد، اما خود را به منطق تکنولوژیک نسپارد. از ابزار استفاده کند، اما جهان را فقط در قالب ابزار نبیند. از هوش مصنوعی بهره ببرد، اما تفکر را به تولید پاسخ، زبان را به خروجی، آموزش را به بهینه‌سازی، سیاست را به مدیریت رفتار و انسان را به داده فرو نکاهد.

این رابطه آزاد تنها با مقررات، دستورالعمل‌ها و سیاست‌گذاری‌های فنی به دست نمی‌آید. نیازمند نوعی دگرگونی در فهم انسان از خود و جهان است. انسان باید بداند که آنچه قابل محاسبه است، همه واقعیت نیست. آنچه قابل پیش‌بینی است، همه انسان نیست. آنچه قابل تولید است، همه هنر نیست. آنچه قابل اندازه‌گیری است، همه آموزش نیست. آنچه قابل ذخیره است، همه حافظه نیست. آنچه قابل تحلیل است، همه معنا نیست. هوش مصنوعی می‌تواند در بسیاری از این حوزه‌ها یاری‌رسان باشد، اما هنگامی خطرناک می‌شود که جای کل را بگیرد و خود را معیار نهایی فهم واقعیت سازد.

هایدگر در کنار مفهوم خطر، از امکان نجات نیز سخن می‌گوید. او با نقل سخن هولدرلین یادآوری می‌کند که هر جا خطر هست، نیروی نجات‌بخش نیز می‌بالد. این نجات نه از بیرون تکنولوژی، بلکه از دل فهم درست ماهیت آن ممکن می‌شود. تا زمانی که تکنولوژی را فقط ابزار بدانیم، اسیر آن می‌مانیم؛ زیرا نمی‌بینیم که چگونه افق دیدن ما را شکل می‌دهد. اما هنگامی که دریابیم تکنولوژی نحوه‌ای از انکشاف است، امکان فاصله گرفتن، اندیشیدن و برقراری رابطه‌ای آزاد با آن پدید می‌آید. در مورد هوش مصنوعی نیز نخستین گام همین است: دیدن آن نه فقط به‌مثابه ابزار، بلکه به‌مثابه افقی که انسان، زبان، دانش، کار و جهان را به شیوه‌ای خاص آشکار می‌کند.

در این افق، هنر، تفکر، گفت‌وگو، آموزش انسانی، فلسفه، دین، اخلاق، تجربه زیسته و سیاست آزاد اهمیت تازه‌ای پیدا می‌کنند. این‌ها حوزه‌هایی نیستند که به‌سادگی باید در برابر هوش مصنوعی حفظ شوند؛ بلکه میدان‌هایی هستند که می‌توانند نسبت انسان با هوش مصنوعی را انسانی‌تر کنند. هنر به ما یادآوری می‌کند که جهان فقط ماده خام تولید تصویر و متن نیست. فلسفه نشان می‌دهد که پرسش‌های بنیادین را نمی‌توان به پاسخ‌های سریع فروکاست. اخلاق یادآوری می‌کند که انسان فقط موضوع تصمیم نیست، بلکه صاحب کرامت است. آموزش انسانی نشان می‌دهد که فهم، نیازمند زمان، تمرین، خطا و رشد درونی است. سیاست آزاد تأکید می‌کند که شهروند فقط داده رفتاری نیست، بلکه موجودی داور، مسئول و صاحب صداست.

بنابراین هوش مصنوعی در عمیق‌ترین سطح خود، ما را در برابر انتخابی تمدنی قرار می‌دهد. یا آن را در افق گشتل رها می‌کنیم تا همه چیز را به داده، منبع، ذخیره، پیش‌بینی و کنترل تبدیل کند؛ یا می‌کوشیم آن را درون افقی انسانی‌تر، آزادتر و مسئولانه‌تر قرار دهیم. انتخاب دوم به معنای دشمنی با تکنولوژی نیست، بلکه به معنای فراتر رفتن از فهم تکنولوژیک از تکنولوژی است. انسان باید بتواند از هوش مصنوعی استفاده کند، اما خود را در تصویر هوش مصنوعی از انسان گم نکند. باید بتواند محاسبه کند، اما محاسبه را جانشین تفکر نسازد. باید بتواند داده را به کار گیرد، اما داده را جانشین تجربه، معنا و حقیقت نکند. باید بتواند ماشین را توسعه دهد، اما انسان را به ماشین شبیه نسازد.

از این منظر، هوش مصنوعی فقط آزمونی برای ماشین نیست؛ آزمونی برای انسان است. نشان می‌دهد انسان خود را چگونه می‌فهمد، چه چیزی را ارزشمند می‌داند، تا کجا حاضر است تفکر و قضاوت را برون‌سپاری کند، و چگونه می‌تواند در جهانی تکنولوژیک همچنان نسبت خود را با معنا، آزادی، بدن، زبان، دیگری و هستی حفظ کند.

پس از هایدگر؛ تکنیک، قدرت، حافظه و سرمایه‌داری داده

اندیشه هایدگر نقطه مرکزی فهم فلسفی تکنولوژی است، اما برای تحلیل هوش مصنوعی کافی نیست که تنها در افق گشتل باقی بمانیم. هوش مصنوعی در جهان معاصر نه فقط نحوه‌ای از انکشاف موجودات، بلکه بخشی از نظام‌های قدرت، اقتصاد، مدیریت، سرمایه‌داری، دولت، رسانه، جنگ، آموزش و فرهنگ است. از این جهت، باید اندیشه هایدگر را با سنت‌های دیگر فلسفه تکنولوژی، نظریه انتقادی و اقتصاد سیاسی داده تکمیل کرد. هایدگر به ما نشان می‌دهد که تکنولوژی چگونه جهان را در مقام ذخیره و منبع آشکار می‌کند؛ اما متفکرانی چون ژاک الول، لوییس مامفورد، هربرت مارکوزه، آلبرت بورگمن، دون آیدی، ژیلبر سیموندون، برنار استیگلر و شوشانا زوبوف نشان می‌دهند که این انکشاف چگونه در نهادها، سازمان‌ها، بازارها، شیوه‌های زندگی، حافظه جمعی، ساختار میل و سازوکارهای سلطه رسوب می‌کند.

ژاک الول یکی از مهم‌ترین متفکرانی است که تکنولوژی را نه صرفاً به معنای ماشین، بلکه به‌مثابه «تکنیک» فهمید. تکنیک نزد او مجموعه‌ای از روش‌ها، رویه‌ها و سازوکارهایی است که هدف اصلی‌شان رسیدن به بیشترین کارآمدی است. در این نگاه، تکنیک فقط در کارخانه یا آزمایشگاه حضور ندارد؛ در اداره، مدرسه، تبلیغات، رسانه، جنگ، سیاست، شهرسازی، آموزش، مدیریت و حتی زندگی خصوصی نفوذ می‌کند. تکنیک نوعی منطق فراگیر است که همه چیز را با معیار کارآمدی، سرعت، محاسبه، کنترل و نتیجه می‌سنجد. هوش مصنوعی را می‌توان یکی از کامل‌ترین صورت‌های این منطق دانست، زیرا کار آن دقیقاً یافتن الگو، کاهش خطا، افزایش سرعت، بهینه‌سازی تصمیم و پیش‌بینی رفتار است. در اینجا خطر نه فقط در خود ماشین، بلکه در غلبه معیار کارآمدی بر همه ارزش‌های دیگر است.

وقتی منطق تکنیک بر زندگی انسانی غلبه می‌کند، پرسش از «خوب» بودن جای خود را به پرسش از «کارآمد» بودن می‌دهد. آموزش خوب، به آموزشی تبدیل می‌شود که خروجی قابل سنجش بیشتری تولید کند. سیاست خوب، به سیاستی تبدیل می‌شود که افکار عمومی را بهتر مدیریت کند. رسانه خوب، رسانه‌ای است که توجه بیشتری جذب کند. کارمند خوب، کسی است که بهره‌وری بیشتری داشته باشد. حتی انسان موفق، انسانی است که زمان، بدن، روابط، مهارت‌ها و عواطف خود را بهتر مدیریت و بهینه‌سازی کند. هوش مصنوعی در چنین جهانی فقط ابزاری در خدمت کارآمدی نیست؛ خودْ شتاب‌دهنده و تعمیق‌کننده منطق کارآمدی است. خطر آن است که انسان دیگر نتواند ارزش‌هایی را که تن به سنجش فوری و کمی نمی‌دهند، جدی بگیرد؛ ارزش‌هایی چون تأمل، وفاداری، حقیقت‌جویی، تربیت، کرامت، رنج معنابخش، دوستی، مراقبت و حکمت.

لوییس مامفورد از زاویه‌ای دیگر به همین مسئله نزدیک می‌شود. او نشان می‌دهد که تکنولوژی را نباید فقط در قالب ابزارهای منفرد فهمید؛ تکنولوژی با سازمان اجتماعی، قدرت سیاسی و نظم اداری پیوند دارد. مفهوم «ماشین بزرگ» یا مگاماشین نزد مامفورد به وضعیتی اشاره دارد که در آن انسان‌ها، نهادها، قواعد، دستگاه‌ها و ساختارهای فرماندهی به‌گونه‌ای ترکیب می‌شوند که کل جامعه مانند یک ماشین عظیم عمل کند. در چنین نظمی، انسان فقط کاربر ابزار نیست، بلکه خود به جزئی از سازوکار تکنیکی و اداری تبدیل می‌شود. این تحلیل برای فهم هوش مصنوعی اهمیت ویژه‌ای دارد، زیرا هوش مصنوعی در خلأ عمل نمی‌کند؛ درون شرکت‌های بزرگ، دولت‌ها، ارتش‌ها، نهادهای مالی، پلتفرم‌ها، نظام‌های آموزشی و شبکه‌های ارتباطی به کار گرفته می‌شود. بنابراین مسئله فقط این نیست که الگوریتم چه می‌کند، بلکه این است که الگوریتم در خدمت کدام ساختار قدرت قرار می‌گیرد.

هوش مصنوعی در سطح فردی ممکن است به صورت دستیاری شخصی، ابزار نوشتن، سامانه ترجمه یا نرم‌افزاری برای تسهیل زندگی ظاهر شود، اما در سطح کلان می‌تواند بخشی از مگاماشین معاصر باشد؛ ماشینی که داده جمع می‌کند، رفتارها را تحلیل می‌کند، بازارها را تنظیم می‌کند، کار را مدیریت می‌کند، افکار عمومی را رصد می‌کند، شهرها را هوشمند می‌سازد، مرزها را کنترل می‌کند و جنگ را از راه دور هدایت می‌کند. در این وضعیت، انسان بیش از آنکه مستقیماً زیر سلطه یک فرمان آشکار قرار گیرد، درون شبکه‌ای از امتیازها، توصیه‌ها، هشدارها، رتبه‌بندی‌ها، دسترسی‌ها و محدودیت‌های الگوریتمی حرکت می‌کند. قدرت دیگر همیشه به شکل ممنوعیت ظاهر نمی‌شود؛ گاهی در قالب پیشنهاد، شخصی‌سازی، راحتی، امنیت و تجربه کاربری ظاهر می‌شود.

مارکوزه و سنت نظریه انتقادی نیز برای فهم هوش مصنوعی اهمیت فراوان دارند. مارکوزه در نقد جامعه صنعتی پیشرفته نشان می‌دهد که عقلانیت تکنولوژیک چگونه می‌تواند انسان را در جهانی تک‌ساحتی زندانی کند. در این جهان، آزادی ظاهراً افزایش می‌یابد، اما افق‌های تخیل، نقد و رهایی محدود می‌شوند. انسان انتخاب می‌کند، اما انتخاب‌هایش درون ساختاری از نیازهای تولیدشده، مصرف، رسانه و مدیریت اجتماعی شکل می‌گیرد. هوش مصنوعی در جامعه امروز می‌تواند همین تک‌ساحتی شدن را به سطحی تازه ببرد. الگوریتم‌ها می‌توانند نیازها را پیش‌بینی کنند، سلیقه‌ها را شکل دهند، محتوا را شخصی‌سازی کنند و میدان تجربه انسان را چنان تنظیم کنند که او بیشتر با همان چیزی روبه‌رو شود که احتمالاً می‌خواهد، می‌پسندد یا مصرف می‌کند. نتیجه چنین وضعی ممکن است کاهش مواجهه انسان با امر ناآشنا، دشوار، انتقادی و دگرگون‌کننده باشد.

در این افق، مسئله فقط سانسور یا تحمیل مستقیم نیست. خطر ظریف‌تر آن است که جهان برای انسان بیش از حد مطابق ترجیحات پیش‌بینی‌شده‌اش ساخته شود. انسان در اتاقی از بازتاب‌های خود قرار می‌گیرد؛ با خبرهایی مواجه می‌شود که خشم یا میل او را فعال می‌کنند، با کالاهایی که با سلیقه او هماهنگ‌اند، با دیدگاه‌هایی که پیش‌فرض‌های او را تقویت می‌کنند و با محتواهایی که زمان بیشتری از توجه او را می‌گیرند. هوش مصنوعی می‌تواند تجربه انسان را آن‌قدر روان، سریع، سازگار و جذاب کند که امکان وقفه، تأمل، مخالفت، سکوت و گشودگی به امر دیگر کاهش یابد. این همان جایی است که عقلانیت تکنولوژیک به جای سرکوب بیرونی، از راه راحتی و شخصی‌سازی بر انسان غلبه می‌کند.

آلبرت بورگمن این مسئله را با مفهومی دیگر توضیح می‌دهد: پارادایم دستگاهی. در جهان مدرن، دستگاه‌ها امور را برای ما آماده، فوری و بی‌زحمت می‌کنند. گرما بدون نسبت با آتش، غذا بدون نسبت با پختن، موسیقی بدون نسبت با اجرا، ارتباط بدون حضور و اکنون متن، تصویر، تحلیل و حتی ایده بدون رنج شکل دادن به زبان و فکر در دسترس قرار می‌گیرد. بورگمن نشان می‌دهد که این راحتی، هرچند واقعی و جذاب است، می‌تواند نسبت عمیق‌تر ما با چیزها را تضعیف کند. چیزی که آماده و بی‌زحمت مصرف می‌شود، همیشه ما را درگیر نمی‌کند؛ گاه ما را از تمرین، مهارت، مشارکت و حضور محروم می‌سازد.

هوش مصنوعی در اینجا به یکی از قوی‌ترین مصادیق پارادایم دستگاهی تبدیل می‌شود. نوشتن، ترجمه، تحقیق، طراحی، تحلیل، برنامه‌نویسی، تصویرسازی و حتی گفت‌وگو می‌توانند به خروجی‌هایی فوری و آماده تبدیل شوند. این امر از یک‌سو امکان‌های بزرگی برای انسان می‌گشاید، زیرا بسیاری از موانع فنی را کاهش می‌دهد و دسترسی به توانایی‌هایی را که پیش‌تر نیازمند تخصص‌های طولانی بود، آسان‌تر می‌کند. اما از سوی دیگر، خطر آن است که انسان از فرایند درونی شکل دادن به فکر دور شود. نوشتن فقط تولید متن نیست؛ تمرین اندیشیدن است. ترجمه فقط جابه‌جایی واژه‌ها نیست؛ فهم دو جهان زبانی است. پژوهش فقط گردآوری پاسخ نیست؛ تربیت ذهن در مواجهه با مسئله است. اگر هوش مصنوعی این فرایندها را به خروجی آماده تقلیل دهد، ممکن است انسان نتیجه را به دست آورد، اما خود در مسیر شکل گرفتن آن نتیجه ساخته نشود.

دون آیدی و پساپدیدارشناسی تکنولوژی کمک می‌کنند این مسئله را از زاویه میانجی‌گری بفهمیم. تکنولوژی‌ها واسطه رابطه انسان با جهان‌اند. انسان جهان را از خلال ابزارها می‌بیند، می‌شنود، اندازه می‌گیرد، ثبت می‌کند و تفسیر می‌کند. عینک، دوربین، تلسکوپ، میکروسکوپ، نقشه، تلفن همراه، موتور جست‌وجو و شبکه اجتماعی، هرکدام جهان را به شیوه‌ای خاص برای ما آشکار می‌کنند و در همان حال، چیزهایی را برجسته و چیزهایی را پنهان می‌سازند. هوش مصنوعی نیز واسطه‌ای تازه است؛ اما تفاوت آن در این است که فقط واسطه دیدن یا شنیدن نیست، بلکه واسطه فهمیدن، نوشتن، تصمیم گرفتن و داوری کردن می‌شود. وقتی انسان برای فهم یک متن، انتخاب یک مسیر، تشخیص یک بیماری، نوشتن یک مقاله، تحلیل یک جامعه یا تصمیمی مدیریتی به هوش مصنوعی رجوع می‌کند، جهان را از خلال واسطه‌ای می‌بیند که خود دارای منطق انتخاب، رتبه‌بندی، احتمال و تولید است.

این میانجی‌گری هرگز خنثی نیست. هوش مصنوعی فقط پاسخ نمی‌دهد؛ پرسش را نیز شکل می‌دهد. فقط اطلاعات نمی‌دهد؛ اهمیت اطلاعات را رتبه‌بندی می‌کند. فقط تصویر نمی‌سازد؛ معیارهای زیبایی‌شناختی پنهان در داده‌ها را بازتولید می‌کند. فقط متن تولید نمی‌کند؛ سبک‌های غالب نوشتن را تقویت می‌کند. فقط توصیه نمی‌کند؛ افق انتخاب را محدود یا هدایت می‌کند. به همین دلیل، استفاده از هوش مصنوعی همواره نوعی واگذاری بخشی از رابطه انسان با جهان به سامانه‌ای میانجی است. این واگذاری ممکن است بسیار مفید باشد، اما هنگامی خطرناک می‌شود که انسان فراموش کند با جهان به‌طور مستقیم مواجه نیست، بلکه جهان از خلال معماری داده، مدل، الگوریتم و منافع نهادی برای او صورت‌بندی شده است.

ژیلبر سیموندون امکان دیگری برای فهم تکنولوژی فراهم می‌کند. او بر خلاف بسیاری از منتقدان بدبین تکنولوژی، می‌کوشد به خود اشیای فنی و روند تکوین آن‌ها توجه کند. از نظر او، تکنولوژی صرفاً ابزار بی‌روحی در برابر فرهنگ نیست؛ اشیای فنی دارای منطق تحول، انسجام درونی و نوعی فردیت‌یابی‌اند. این نگاه برای تحلیل هوش مصنوعی مهم است، زیرا مانع از آن می‌شود که فناوری را فقط دشمن انسان بدانیم. هوش مصنوعی نیز مانند هر فناوری بزرگ، امکان‌هایی واقعی برای گسترش توانایی انسان دارد. می‌تواند به دانش پزشکی کمک کند، آموزش را در دسترس‌تر کند، موانع زبانی را کاهش دهد، توان خلاقیت را افزایش دهد، پژوهش علمی را شتاب دهد و در حل مسائل پیچیده به انسان یاری رساند. نقد فلسفی هوش مصنوعی نباید به ترس خام یا نفی کلی فروکاسته شود.

اما همین نگاه مثبت نیز باید با احتیاط همراه باشد. اگر فناوری دارای منطق تحول خود است، پس نمی‌توان آن را کاملاً به نیت‌های فردی کاربران فروکاست. فناوری‌ها در مسیر گسترش خود، نیازهای تازه می‌آفرینند، شبکه‌های وابستگی می‌سازند، نهادها را تغییر می‌دهند و جهان را با خود هماهنگ می‌کنند. هوش مصنوعی نیز هنگامی که در آموزش، اقتصاد، امنیت، رسانه و کار وارد می‌شود، فقط ابزاری تازه به ساختارهای پیشین اضافه نمی‌کند؛ خود ساختارها را تغییر می‌دهد. مدرسه‌ای که بر اساس هوش مصنوعی سامان می‌یابد، همان مدرسه پیشین با ابزاری تازه نیست. بازار کاری که بر اساس اتوماسیون شناختی شکل می‌گیرد، همان بازار پیشین با سرعت بیشتر نیست. رسانه‌ای که توسط الگوریتم‌های هوشمند هدایت می‌شود، همان رسانه قدیم با امکانات بیشتر نیست. فناوری، زمینه را بازسازی می‌کند.

برنار استیگلر این بازسازی را در نسبت با حافظه، زمان و میل توضیح می‌دهد. از نظر او، تکنولوژی همواره با بیرونی‌سازی حافظه انسانی پیوند دارد. خط، کتاب، آرشیو، عکس، سینما، تلویزیون، کامپیوتر و شبکه‌های دیجیتال، هرکدام بخشی از حافظه فردی و جمعی انسان را بیرونی کرده‌اند. هوش مصنوعی این روند را به مرحله‌ای تازه می‌برد. اکنون نه فقط حافظه ذخیره می‌شود، بلکه پردازش، بازیابی، ترکیب و تولید معنا نیز تا حدی به بیرون سپرده می‌شود. انسان دیگر فقط خاطرات، نوشته‌ها و تصاویر خود را در بیرون ذخیره نمی‌کند؛ از سامانه‌ای بیرونی می‌خواهد که به جای او یادآوری کند، خلاصه کند، تحلیل کند، پیشنهاد دهد و حتی بنویسد. این وضعیت نسبت انسان با زمان، یادگیری و حافظه را دگرگون می‌کند.

در جهانی که حافظه بیرونی هوشمند شده است، فراموشی و یادآوری نیز شکل تازه‌ای پیدا می‌کنند. انسان ممکن است کمتر به خاطر بسپارد، زیرا همیشه می‌تواند جست‌وجو کند. ممکن است کمتر تمرین کند، زیرا همیشه می‌تواند تولید کند. ممکن است کمتر با ابهام بماند، زیرا همیشه می‌تواند پاسخ فوری بگیرد. اما حافظه انسانی فقط انبار اطلاعات نیست؛ بخشی از هویت، شخصیت، قضاوت و تداوم درونی انسان است. آنچه در ذهن رسوب می‌کند، با انسان زندگی می‌کند، تغییر می‌کند و در موقعیت‌های تازه معنا می‌یابد. هنگامی که حافظه بیش از اندازه به بیرون سپرده شود، خطر آن است که انسان به جای داشتن رابطه‌ای درونی با دانش، به مصرف‌کننده دائمی پاسخ‌های بیرونی تبدیل شود.

استیگلر همچنین بر مسئله توجه و میل تأکید می‌کند. تکنولوژی‌های معاصر فقط دانش را سازمان نمی‌دهند؛ میل انسان را نیز شکل می‌دهند. پلتفرم‌ها، رسانه‌ها و سامانه‌های هوشمند می‌کوشند توجه انسان را جذب، نگه‌داری و هدایت کنند. هوش مصنوعی این فرایند را دقیق‌تر و شخصی‌تر می‌کند. محتوا، تبلیغ، خبر، تصویر و توصیه می‌تواند بر اساس الگوهای رفتاری هر فرد تنظیم شود. در این وضع، میل انسان به‌تدریج در محیطی ساخته می‌شود که پیوسته او را می‌سنجد، واکنش‌هایش را می‌آموزد و محرک‌های مناسب‌تری برای حفظ توجه او تولید می‌کند. انسان گمان می‌کند چیزی را می‌خواهد، اما خواستن او در میدانی شکل گرفته که پیشاپیش توسط سازوکارهای فنی و اقتصادی طراحی شده است.

اینجا تحلیل شوشانا زوبوف درباره سرمایه‌داری نظارتی اهمیت پیدا می‌کند. در سرمایه‌داری صنعتی، طبیعت و نیروی کار منابع اصلی استخراج و تولید بودند. در سرمایه‌داری دیجیتال، تجربه انسانی خود به ماده خام تبدیل می‌شود. رفتار انسان، کلیک‌ها، مکث‌ها، جست‌وجوها، مسیرها، روابط، خریدها، علایق، ترس‌ها و عواطف، همگی به داده‌هایی برای پیش‌بینی و اثرگذاری بر رفتار آینده تبدیل می‌شوند. هوش مصنوعی موتور این اقتصاد پیش‌بینی است. بدون داده‌های عظیم، مدل‌های هوشمند قدرت چندانی ندارند؛ و بدون مدل‌های هوشمند، داده‌های عظیم به چنین سطحی از پیش‌بینی و مداخله نمی‌رسند. بنابراین هوش مصنوعی و سرمایه‌داری داده، یکدیگر را تقویت می‌کنند.

در این افق، انسان نه فقط کاربر پلتفرم، بلکه منبع استخراج ارزش است. او با هر حرکت خود داده تولید می‌کند. حتی سرگرمی، ارتباط، خرید، مطالعه، ورزش، سفر و استراحت او می‌تواند به بخشی از زنجیره ارزش داده‌ای تبدیل شود. سرمایه‌داری نظارتی فقط کالا به انسان نمی‌فروشد؛ آینده رفتار او را پیش‌بینی می‌کند و این پیش‌بینی را به بازار، تبلیغ، سیاست، بیمه، امنیت و مدیریت می‌فروشد. هوش مصنوعی در اینجا به فناوری شناخت انسان تبدیل می‌شود، اما شناختی که لزوماً برای رهایی یا فهم عمیق‌تر انسان نیست، بلکه برای پیش‌بینی، هدایت و سودآوری است. این همان نقطه‌ای است که نقد هایدگری گشتل با نقد اقتصاد سیاسی داده به هم می‌رسند. انسان در مقام ذخیره و منبع، اکنون نه فقط نیروی کار، بلکه منبع داده رفتاری است.

در چنین جهانی، مسئله حریم خصوصی فقط بخشی از ماجراست. حریم خصوصی مهم است، اما خطر عمیق‌تر آن است که خود تجربه انسانی به میدان استخراج و مهندسی تبدیل شود. حتی اگر داده‌ها با رضایت ظاهری جمع‌آوری شوند، حتی اگر قوانین شفافیت رعایت شود، حتی اگر کاربر بتواند برخی تنظیمات را تغییر دهد، باز هم این پرسش باقی می‌ماند که چرا زندگی انسان باید چنین گسترده در معرض ثبت و پیش‌بینی باشد. مسئله فقط مالکیت داده نیست؛ مسئله شکل تازه‌ای از نسبت انسان با خود است. انسانی که دائماً ردیابی، سنجیده، امتیازدهی و پیش‌بینی می‌شود، به‌تدریج خود را نیز از دریچه شاخص‌ها و بازخوردها می‌بیند. او نه فقط موضوع نظارت دیگران، بلکه ناظر دائمی خود در قالب داده می‌شود.

این وضعیت در شبکه‌های اجتماعی و پلتفرم‌های دیجیتال به‌خوبی قابل مشاهده است. انسان خود را در قالب بازدید، پسند، دنبال‌کننده، نرخ تعامل، امتیاز، رتبه و بازخورد می‌فهمد. هوش مصنوعی این فرایند را عمیق‌تر می‌کند، زیرا می‌تواند به‌طور پیوسته رفتار او را تحلیل کند و به او نشان دهد چه چیزی بیشتر دیده می‌شود، چه سبکی بیشتر اثر می‌گذارد، چه زمانی بهتر است منتشر کند، چه تصویری جذاب‌تر است و چه جمله‌ای واکنش بیشتری می‌گیرد. در چنین وضعی، بیان انسانی ممکن است آرام‌آرام با منطق دیده‌شدن هماهنگ شود. انسان دیگر فقط سخن نمی‌گوید؛ سخن خود را برای الگوریتم نیز تنظیم می‌کند. زبان، نه فقط وسیله معنا، بلکه وسیله بهینه‌سازی حضور در شبکه می‌شود.

در سطح سیاسی، این وضعیت به مسئله‌ای بسیار حساس‌تر تبدیل می‌شود. اگر رفتار شهروندان قابل پیش‌بینی و تحریک باشد، سیاست می‌تواند از میدان گفت‌وگوی عمومی به میدان مهندسی عاطفه و توجه فروکاسته شود. هوش مصنوعی می‌تواند افکار عمومی را تحلیل کند، پیام‌ها را برای گروه‌های مختلف شخصی‌سازی کند، نقاط ضعف روانی جامعه را بیابد، خشم‌ها و ترس‌ها را تقویت کند و واقعیت‌های سیاسی را در قالب جریان‌های محتوایی هدفمند بازسازی کند. در اینجا دموکراسی فقط با دروغ آشکار تهدید نمی‌شود، بلکه با فرسایش امکان گفت‌وگوی مشترک تهدید می‌شود. هنگامی که هر فرد در جهان اطلاعاتی شخصی‌سازی‌شده خود زندگی کند، امر عمومی تضعیف می‌شود و جامعه به مجموعه‌ای از حباب‌های عاطفی و شناختی تقسیم می‌گردد.

هوش مصنوعی همچنین در جنگ و امنیت، نسبت انسان با خشونت را تغییر می‌دهد. تصمیم‌گیری الگوریتمی، پهپادها، سامانه‌های شناسایی چهره، تحلیل پیش‌بینانه تهدیدها، جنگ سایبری و عملیات روانی هوشمند، همگی نشان می‌دهند که تکنولوژی فقط ابزار تولید رفاه نیست. همان منطقی که در بازار برای پیش‌بینی مصرف به کار می‌رود، می‌تواند در جنگ برای شناسایی هدف، اختلال در جامعه و مدیریت ادراک عمومی به کار رود. خطر هوش مصنوعی در اینجا فقط خطای فنی نیست؛ خطر آن است که فاصله میان تصمیم و پیامد افزایش یابد و خشونت در قالب داده، هدف، احتمال و مأموریت تعریف شود. وقتی انسان به هدف قابل شناسایی، ریسک امنیتی یا نقطه‌ای در نقشه داده‌ای تبدیل شود، خشونت نیز چهره انسانی خود را از دست می‌دهد.

با این همه، تحلیل فلسفی هوش مصنوعی نباید به بدبینی مطلق برسد. همان فناوری‌هایی که می‌توانند برای کنترل و بهره‌برداری به کار روند، می‌توانند در خدمت آموزش، درمان، توانمندسازی، دسترسی، پژوهش، عدالت و فهم بهتر بحران‌ها نیز قرار گیرند. هوش مصنوعی می‌تواند به نابینایان در دیدن جهان کمک کند، برای بیماران تشخیص زودهنگام فراهم سازد، زبان‌ها را به هم نزدیک کند، پژوهشگران را در تحلیل داده‌های پیچیده یاری دهد، کشاورزی را دقیق‌تر کند، مصرف انرژی را کاهش دهد و امکان‌های تازه‌ای برای خلاقیت فراهم آورد. مسئله در خود توانایی نیست؛ مسئله در افقی است که این توانایی در آن معنا می‌یابد. اگر افق مسلط، سود، کنترل، سرعت، بهره‌وری و استخراج داده باشد، هوش مصنوعی نیز در خدمت همین منطق قرار می‌گیرد. اگر افق انسانی‌تر، مسئولانه‌تر و آزادتر ساخته شود، هوش مصنوعی می‌تواند به گسترش امکان‌های انسانی کمک کند.

از این رو، نقد هوش مصنوعی باید هم‌زمان دو خطا را کنار بگذارد: شیفتگی ساده‌دلانه و هراس آخرالزمانی. شیفتگی ساده‌دلانه، هوش مصنوعی را راه‌حل همه مسائل می‌داند و از دیدن پیامدهای فرهنگی، سیاسی، اخلاقی و هستی‌شناختی آن ناتوان است. هراس آخرالزمانی نیز همه چیز را به سناریوی نابودی، شورش ماشین یا پایان انسان تقلیل می‌دهد و از فهم سازوکارهای روزمره و واقعی‌تر سلطه تکنولوژیک بازمی‌ماند. فلسفه باید راهی میان این دو بگشاید: نه تسلیم هیجان تکنولوژیک شود و نه در نفی کلی فناوری فرو رود. وظیفه فلسفه آن است که نسبت انسان با هوش مصنوعی را در سطحی عمیق‌تر از کارکرد، سود و ترس بفهمد.

در این سطح، هوش مصنوعی به یکی از مهم‌ترین آزمون‌های تمدن معاصر تبدیل می‌شود. این آزمون نشان می‌دهد که آیا انسان می‌تواند فناوری‌ای بسازد که از توانایی‌های او فراتر می‌رود، بی‌آنکه خود را به منطق آن واگذار کند. آیا می‌تواند از محاسبه استفاده کند، بی‌آنکه محاسبه را جانشین تفکر کند. آیا می‌تواند داده را به کار گیرد، بی‌آنکه داده را جایگزین حقیقت و تجربه سازد. آیا می‌تواند از پیش‌بینی بهره ببرد، بی‌آنکه آزادی را به احتمال رفتاری فروبکاهد. آیا می‌تواند از اتوماسیون سود ببرد، بی‌آنکه کار انسانی، مهارت، مسئولیت و شأن حضور را نابود کند. پاسخ عملی تمدن جدید به این مسائل، نه در شعار، بلکه در نهادها، قوانین، آموزش، هنر، سیاست، اقتصاد و شیوه‌های روزمره استفاده از هوش مصنوعی آشکار خواهد شد.

اخلاق هوش مصنوعی و فراتر رفتن از اخلاق ابزار

پس از روشن شدن نسبت هوش مصنوعی با ذهن، آگاهی، بدن، تکنولوژی، قدرت، حافظه و سرمایه‌داری داده، اکنون باید به سطح اخلاقی و سیاسی مسئله رسید. هوش مصنوعی، مانند هر فناوری بزرگ دیگر، پرسش‌های اخلاقی فراوانی پدید می‌آورد: مسئولیت خطای الگوریتمی بر عهده کیست؛ داده‌های انسانی چگونه باید گردآوری و نگهداری شوند؛ تبعیض‌های پنهان در مدل‌ها چگونه باید اصلاح شوند؛ تصمیم‌های خودکار تا چه حد مجازند؛ حریم خصوصی چگونه حفظ می‌شود؛ آیا انسان باید حق بداند که با ماشین روبه‌روست یا انسان؛ چه کسی مالک داده، متن، تصویر یا اثری است که با کمک هوش مصنوعی تولید می‌شود؛ و چگونه می‌توان از سوءاستفاده سیاسی، امنیتی، اقتصادی و فرهنگی از سامانه‌های هوشمند جلوگیری کرد. این پرسش‌ها ضروری‌اند و هیچ بحث جدی درباره هوش مصنوعی نمی‌تواند از کنار آن‌ها بگذرد. اما اخلاق هوش مصنوعی اگر فقط در همین سطح باقی بماند، به اخلاق مدیریت ابزار فروکاسته می‌شود.

اخلاق ابزار می‌گوید فناوری را می‌توان خوب یا بد به کار برد. اگر قواعد درست وضع شود، اگر شفافیت وجود داشته باشد، اگر تبعیض کاهش یابد، اگر حریم خصوصی رعایت شود و اگر مسئولیت حقوقی تعریف گردد، ابزار در مسیر انسانی قرار می‌گیرد. این نگاه لازم است، اما کافی نیست. زیرا مسئله هوش مصنوعی فقط در سوءاستفاده از یک ابزار نیست؛ مسئله در خود افقی است که این ابزار در آن معنا می‌یابد. اگر جامعه‌ای پیشاپیش انسان را به نیروی کار، مصرف‌کننده، داده رفتاری، مخاطب قابل تحریک و واحد قابل مدیریت فروکاسته باشد، هوش مصنوعی فقط این فروکاست را دقیق‌تر، سریع‌تر و فراگیرتر می‌کند. در چنین وضعی، حتی استفاده «قانونمند» از هوش مصنوعی نیز ممکن است همچنان در خدمت منطق تقلیل انسان به داده و کارکرد باشد.

بنابراین اخلاق هوش مصنوعی باید از سطح تنظیم ابزار فراتر رود و به اخلاق وضعیت انسانی تبدیل شود. اخلاق وضعیت انسانی به جای آنکه فقط بپرسد الگوریتم چگونه عادلانه‌تر تصمیم بگیرد، می‌پرسد کدام تصمیم‌ها اساساً نباید به الگوریتم سپرده شوند. به جای آنکه فقط بپرسد داده‌ها چگونه امن‌تر ذخیره شوند، می‌پرسد چرا باید این اندازه از زندگی انسانی به داده تبدیل شود. به جای آنکه فقط بپرسد سامانه‌ها چگونه شفاف‌تر شوند، می‌پرسد آیا شفافیت فنی برای حفظ کرامت انسانی کافی است. به جای آنکه فقط بپرسد چگونه هوش مصنوعی را کارآمدتر کنیم، می‌پرسد کارآمدی در نسبت با کدام ارزش انسانی معنا دارد. این تغییر جهت، اخلاق هوش مصنوعی را از اخلاق مهندسی به فلسفه اخلاق، فلسفه سیاست و فلسفه انسان پیوند می‌زند.

در این سطح، کرامت انسانی باید محور قرار گیرد. انسان فقط مجموعه‌ای از داده‌ها، ترجیحات، رفتارها، نیازها و الگوهای قابل پیش‌بینی نیست. انسان موجودی است که می‌تواند خود را تفسیر کند، تغییر دهد، بر ضد عادت‌های خود برخیزد، از گذشته‌اش فاصله بگیرد، خطا کند، پشیمان شود، مسئولیت بپذیرد، عهد ببندد، ببخشد، بیافریند، مقاومت کند و معنایی تازه برای زندگی خود بسازد. الگوریتم‌ها معمولاً با گذشته انسان کار می‌کنند؛ با داده‌هایی که از رفتارهای پیشین، الگوهای مشابه، احتمال‌ها و همبستگی‌ها به دست آمده‌اند. اما انسان همیشه بیش از گذشته خود است. اگر تصمیم‌های انسانی کاملاً بر اساس داده‌های گذشته و پیش‌بینی‌های آماری سازمان یابند، امکان گسست، توبه، تحول، خلاقیت و آغاز دوباره تضعیف می‌شود. کرامت انسانی دقیقاً در همین بیش‌بودن از داده‌ها و پیش‌بینی‌هاست.

از این منظر، یکی از مهم‌ترین خطرهای هوش مصنوعی، تثبیت انسان در قالب الگوهای پیشین است. سامانه‌های هوشمند از گذشته می‌آموزند و آینده را بر اساس آن پیش‌بینی می‌کنند. این توانایی در بسیاری از حوزه‌ها مفید است، اما در امور انسانی می‌تواند خطرناک شود. اگر دانش‌آموز بر اساس داده‌های گذشته‌اش به مسیر خاصی هدایت شود، اگر بیمار بر اساس شاخص‌های خطر به نحوی خاص دسته‌بندی شود، اگر شهروند بر اساس رفتار رسانه‌ای‌اش موضوع تبلیغ سیاسی قرار گیرد، اگر متهم بر اساس الگوهای آماری خطرناک تلقی شود، اگر کارمند بر اساس شاخص‌های بهره‌وری آینده‌اش سنجیده شود، آنگاه انسان در قالب احتمال‌هایی محبوس می‌شود که از گذشته او استخراج شده‌اند. عدالت انسانی باید همیشه امکان فراتر رفتن از احتمال آماری را حفظ کند.

به همین دلیل، در حوزه‌هایی که با سرنوشت، کرامت و آزادی انسان سروکار دارند، هوش مصنوعی نباید جایگزین داوری انسانی شود. می‌تواند یاری‌رسان باشد، می‌تواند داده فراهم کند، می‌تواند خطاهای احتمالی را نشان دهد، می‌تواند افق تصمیم را گسترده‌تر کند، اما نباید خود به مرجع نهایی داوری تبدیل شود. تصمیم قضایی، تصمیم پزشکی حساس، ارزیابی آموزشی، سیاست عمومی، جنگ، مراقبت از سالمندان، تربیت کودکان و داوری درباره صلاحیت انسان‌ها حوزه‌هایی‌اند که در آن‌ها محاسبه باید زیر نظر مسئولیت انسانی باقی بماند. مسئولیت را نمی‌توان به ماشین واگذار کرد، زیرا مسئولیت فقط انتخاب خروجی درست نیست؛ ایستادن در برابر پیامد تصمیم، پاسخ دادن به دیگری و پذیرش بار اخلاقی عمل است.

این نکته در جنگ و امنیت اهمیت بیشتری پیدا می‌کند. هرچه سامانه‌های هوشمند در شناسایی، هدف‌گیری، تحلیل تهدید و تصمیم‌سازی نظامی پیشرفته‌تر شوند، خطر فاصله گرفتن انسان از پیامد خشونت افزایش می‌یابد. خشونت هنگامی که در قالب داده، تصویر، مختصات، ریسک و احتمال تعریف شود، ممکن است چهره انسانی خود را از دست بدهد. تصمیم‌گیری خودکار در میدان جنگ، حتی اگر از نظر فنی دقیق باشد، با مسئله‌ای عمیق‌تر روبه‌روست: مرگ انسان نباید به خروجی یک سامانه محاسباتی فروکاسته شود. در اینجا مرز اخلاقی باید روشن بماند. هیچ سطحی از دقت فنی نمی‌تواند به‌تنهایی جای مسئولیت انسانی در برابر جان انسان را بگیرد.

در آموزش نیز اخلاق هوش مصنوعی باید فراتر از بحث تقلب یا استفاده مجاز از ابزار برود. مسئله اصلی این است که آموزش چه نوع انسانی می‌سازد. اگر هوش مصنوعی فقط برای سرعت بخشیدن به پاسخ‌ها، حذف دشواری نوشتن، کوتاه کردن مسیر تفکر و تولید خروجی‌های آماده به کار رود، آموزش از درون تهی می‌شود. اما اگر در خدمت گفت‌وگو، تمرین، بازخورد، گسترش دسترسی، توضیح بهتر مفاهیم و تقویت توان اندیشیدن قرار گیرد، می‌تواند امکان‌های انسانی آموزش را افزایش دهد. تفاوت میان این دو حالت در آن است که در حالت نخست، هوش مصنوعی جای فرایند شکل‌گیری ذهن را می‌گیرد؛ در حالت دوم، به رشد آن کمک می‌کند. آموزش انسانی باید دانش‌آموز و دانشجو را به کسی تبدیل کند که بتواند بیندیشد، نه فقط کسی که بتواند خروجی خوب تحویل دهد.

در هنر و نوشتن نیز همین تمایز اهمیت دارد. هوش مصنوعی می‌تواند ابزار خلاقیت باشد، اما نباید جای تجربه خلاق را بگیرد. نوشتن فقط تولید متن زیبا یا منسجم نیست؛ فرایندی است که نویسنده در آن خود را می‌سازد. انسان در نوشتن با زبان کشتی می‌گیرد، از ابهام عبور می‌کند، شکست می‌خورد، بازمی‌نویسد، لحن خود را پیدا می‌کند و در نهایت چیزی از جهان درونی و تاریخی خود را در زبان متجسد می‌سازد. اگر هوش مصنوعی این فرایند را به تولید فوری متن تبدیل کند، ممکن است حاصل بیرونی حفظ شود، اما تربیت درونی زبان و فکر آسیب ببیند. در مقابل، اگر هوش مصنوعی در مقام همیار، محرک، منتقد، پیشنهاددهنده و آینه‌ای برای بازبینی متن به کار رود، می‌تواند به تقویت خلاقیت انسانی کمک کند. معیار اصلی آن است که آیا انسان در فرایند استفاده از هوش مصنوعی فعال‌تر، آگاه‌تر و عمیق‌تر می‌شود، یا منفعل‌تر، وابسته‌تر و سطحی‌تر.

در سیاست نیز باید از تقلیل شهروند به داده رفتاری جلوگیری کرد. شهروند موجودی قابل مدیریت نیست؛ صاحب رأی، صدا، حق اعتراض، قدرت داوری و شأن مشارکت عمومی است. هوش مصنوعی اگر در خدمت فهم بهتر مشکلات عمومی، شناسایی نیازها، توزیع عادلانه‌تر منابع و افزایش شفافیت به کار رود، می‌تواند به سیاست انسانی کمک کند. اما اگر برای مهندسی افکار عمومی، شخصی‌سازی پیام‌های فریبنده، رصد دائمی جامعه، پیش‌بینی اعتراضات، کنترل رفتار و شکل دادن پنهان به ترجیحات مردم استفاده شود، سیاست را به فن مدیریت جمعیت تبدیل می‌کند. در چنین وضعی، خطر اصلی نه نابودی آشکار آزادی، بلکه تبدیل آرام آزادی به انتخاب‌هایی است که پیشاپیش در میدان الگوریتمی جهت‌دهی شده‌اند.

مسئله حریم خصوصی نیز در همین چارچوب باید عمیق‌تر فهمیده شود. حریم خصوصی فقط حق پنهان کردن اطلاعات نیست؛ شرط شکل‌گیری فردیت، تفکر مستقل و زندگی درونی است. انسانی که دائماً دیده، سنجیده، ثبت و تحلیل می‌شود، به‌تدریج خود را نیز از بیرون می‌بیند. او رفتار خود را بر اساس امکان مشاهده شدن تنظیم می‌کند. سکوت، تنهایی، آزمون خطا، تجربه‌های خام، فکرهای ناتمام و جست‌وجوهای شخصی، همه نیازمند فضایی‌اند که فوراً به داده عمومی، تجاری یا اداری تبدیل نشوند. اگر همه چیز ثبت‌پذیر و تحلیل‌پذیر شود، انسان بخشی از آزادی درونی خود را از دست می‌دهد. حریم خصوصی از این جهت، امری لوکس یا صرفاً حقوقی نیست؛ بخشی از امکان انسان بودن است.

از سوی دیگر، عدالت الگوریتمی نیز باید جدی گرفته شود. سامانه‌های هوش مصنوعی از داده‌های تاریخی می‌آموزند، و داده‌های تاریخی اغلب حامل تبعیض‌ها، نابرابری‌ها و پیش‌داوری‌های گذشته‌اند. اگر این داده‌ها بی‌نقد وارد مدل‌ها شوند، تبعیض‌های گذشته می‌توانند در قالب تصمیم‌های ظاهراً بی‌طرف و علمی بازتولید شوند. خطری که در اینجا وجود دارد، خطر طبیعی جلوه کردن بی‌عدالتی است. تصمیم الگوریتمی ممکن است چون عددی، آماری و محاسباتی است، عینی و بی‌طرف به نظر برسد؛ در حالی که پشت آن تاریخ نابرابری، انتخاب داده، طراحی مدل، هدف تجاری یا ساختار قدرت پنهان شده است. عدالت در عصر هوش مصنوعی نیازمند این است که بی‌طرفی فنی با عدالت انسانی اشتباه گرفته نشود.

با این حال، نقد اخلاقی و سیاسی هوش مصنوعی نباید به این نتیجه برسد که انسان باید از فناوری کناره بگیرد. چنین کناره‌گیری‌ای نه ممکن است و نه مسئولانه. هوش مصنوعی اکنون بخشی از جهان ماست و خواهد ماند. مسئله اصلی، شکل دادن به نحوه حضور آن در زندگی انسانی است. همان‌گونه که خط، چاپ، ماشین صنعتی، سینما، رادیو، تلویزیون، اینترنت و شبکه‌های اجتماعی هرکدام جهان انسانی را تغییر دادند، هوش مصنوعی نیز جهان ما را تغییر می‌دهد. انسان نمی‌تواند این دگرگونی را نادیده بگیرد، اما می‌تواند نسبت خود را با آن آگاهانه‌تر سازد. فلسفه دقیقاً در همین نقطه ضرورت پیدا می‌کند: نه برای آنکه جای مهندسی یا سیاست‌گذاری را بگیرد، بلکه برای آنکه افق معنایی و انسانی این دگرگونی را روشن کند.

در این افق، رابطه آزاد با هوش مصنوعی به معنای مجموعه‌ای از تصمیم‌های فردی و جمعی است. در سطح فردی، انسان باید بیاموزد که از هوش مصنوعی استفاده کند، بی‌آنکه توان اندیشیدن، نوشتن، داوری و به خاطر سپردن خود را از دست بدهد. باید میان کمک گرفتن و جایگزین کردن تمایز بگذارد. باید بداند که پاسخ سریع همیشه فهم عمیق نیست، متن منسجم همیشه تفکر اصیل نیست، توصیه دقیق همیشه انتخاب آزاد نیست و پیش‌بینی آماری همیشه شناخت انسان نیست. سواد هوش مصنوعی در این معنا فقط دانستن شیوه کار با ابزار نیست؛ فهم محدودیت‌ها، سوگیری‌ها، منطق پنهان و پیامدهای وجودی استفاده از آن است.

در سطح نهادی، دانشگاه‌ها، مدارس، رسانه‌ها، دولت‌ها، شرکت‌ها و نظام‌های حقوقی باید معیارهای انسانی روشنی برای استفاده از هوش مصنوعی داشته باشند. هرجا تصمیمی با کرامت، آزادی و سرنوشت انسان پیوند دارد، باید حق اعتراض، توضیح‌پذیری، نظارت انسانی و امکان بازنگری وجود داشته باشد. هیچ فردی نباید صرفاً بر اساس تصمیمی ماشینی از فرصت آموزشی، شغلی، درمانی، حقوقی یا اجتماعی محروم شود. هیچ جامعه‌ای نباید بدون آگاهی عمومی، میدان آزمایش سامانه‌های نظارتی و رفتاری شود. هیچ نهادی نباید مسئولیت اخلاقی خود را پشت پیچیدگی فنی الگوریتم پنهان کند. پیچیدگی تکنیکی نباید به سپری در برابر پاسخ‌گویی تبدیل شود.

در سطح تمدنی، مسئله از این هم فراتر می‌رود. تمدن معاصر باید تصمیم بگیرد که هوش مصنوعی را در خدمت چه تصویری از انسان قرار می‌دهد. اگر انسان را فقط موجودی مصرف‌کننده، رقابت‌گر، داده‌ساز، قابل پیش‌بینی و بهره‌ور بداند، هوش مصنوعی نیز در خدمت افزایش مصرف، کنترل رفتار، سرعت تولید و استخراج داده قرار می‌گیرد. اما اگر انسان را موجودی آزاد، مسئول، معناجو، بدن‌مند، تاریخی، خلاق، آسیب‌پذیر و شایسته کرامت بداند، آنگاه هوش مصنوعی باید به نحوی طراحی و به کار گرفته شود که این ابعاد را تقویت کند، نه تضعیف. در اینجا فلسفه انسان‌شناسی، اخلاق، سیاست و تکنولوژی به هم می‌رسند.

در نهایت، اخلاق هوش مصنوعی باید از اخلاق ترس نیز فراتر برود. ترس از آینده، ترس از بیکاری، ترس از سلطه ماشین، ترس از نابودی انسان و ترس از کنترل الگوریتمی، هرچند بی‌پایه نیستند، اما به‌تنهایی نمی‌توانند راهنمای خوبی برای عمل باشند. ترس اگر به تفکر تبدیل نشود، یا به انفعال می‌انجامد یا به واکنش‌های شتاب‌زده. آنچه لازم است، نه ترس خام، بلکه مراقبت آگاهانه است. مراقبت یعنی دیدن امکان‌ها و خطرها با هم؛ یعنی بهره گرفتن از قدرت فناوری، بی‌آنکه نسبت انسانی با جهان از دست برود؛ یعنی طراحی نهادها، قوانین، آموزش‌ها و فرهنگ‌هایی که انسان را در مرکز نگه دارند، نه به‌عنوان شعار، بلکه در عمل.

از این منظر، هوش مصنوعی فرصتی نیز برای بازاندیشی در خود انسان است. شاید هیچ فناوری دیگری به این اندازه ما را مجبور نکرده باشد که درباره معنای تفکر، زبان، خلاقیت، آگاهی، بدن، آزادی، آموزش و کرامت انسانی دوباره بیندیشیم. ماشین‌هایی که می‌نویسند، پاسخ می‌دهند، تصویر می‌سازند و تصمیم‌سازی می‌کنند، ما را با این حقیقت روبه‌رو می‌کنند که بسیاری از کارهایی که زمانی نشانه انحصاری انسان می‌دانستیم، اکنون قابل شبیه‌سازی یا اتوماسیون‌اند. اما این امر لزوماً به معنای کاهش شأن انسان نیست. برعکس، می‌تواند ما را وادار کند که شأن انسان را نه در کارکردهای قابل تقلید، بلکه در نسبت‌های عمیق‌تر او با معنا، مسئولیت، دیگری، مرگ، آزادی، تاریخ و حقیقت جست‌وجو کنیم.

بنابراین اخلاق هوش مصنوعی در پایان به همان نقطه‌ای بازمی‌گردد که مقاله از آن آغاز شد: مسئله هوش مصنوعی، مسئله انسان است. ماشین ممکن است در برخی کارکردها از انسان پیشی بگیرد، اما این پیشی گرفتن زمانی خطرناک می‌شود که انسان خود را صرفاً بر اساس همان کارکردها تعریف کند. اگر انسان خود را فقط موجودی محاسبه‌گر بداند، ماشین محاسبه‌گر رقیب نهایی او خواهد بود. اگر خود را فقط تولیدکننده متن بداند، مدل زبانی جای او را تنگ خواهد کرد. اگر خود را فقط تصمیم‌گیرنده عقلانی بداند، الگوریتم‌های تصمیم‌ساز او را پشت سر خواهند گذاشت. اما اگر انسان را موجودی معناجو، مسئول، رابطه‌مند، بدن‌مند، تاریخی و گشوده به حقیقت بدانیم، آنگاه هوش مصنوعی نه پایان انسان، بلکه آزمونی برای حفظ و تعمیق انسانیت او خواهد بود.

مسیر اخلاقی و سیاسی درست در برابر هوش مصنوعی، نه تسلیم است و نه انکار. تسلیم، انسان را به داده، خروجی و منبع فرو می‌کاهد. انکار، او را از فهم جهان جدید محروم می‌کند. راه سوم، برقراری رابطه آزاد، مسئولانه و خلاق با فناوری است؛ رابطه‌ای که در آن هوش مصنوعی در خدمت گسترش توانایی‌های انسانی قرار می‌گیرد، اما معیار نهایی انسان بودن نمی‌شود. در این رابطه، انسان از ماشین می‌آموزد، اما خود را به ماشین تقلیل نمی‌دهد. از محاسبه بهره می‌برد، اما تفکر را حفظ می‌کند. از داده استفاده می‌کند، اما تجربه را فراموش نمی‌کند. از سرعت سود می‌برد، اما زمان تأمل را نابود نمی‌سازد. از قدرت پیش‌بینی استفاده می‌کند، اما آزادی را به احتمال فرو نمی‌کاهد.

نتیجه‌گیری؛ هوش مصنوعی و امکان حفظ انسان در جهان تکنولوژیک

هوش مصنوعی در آغاز، ما را با پرسشی درباره ذهن روبه‌رو می‌سازد. آیا ماشین می‌تواند بیندیشد، بفهمد، معنا را دریابد و آگاه باشد؟ این پرسش در ظاهر به آینده ماشین‌ها مربوط است، اما در حقیقت به فهم انسان از خویش بازمی‌گردد. هر پاسخی که به امکان ذهن ماشینی داده شود، پیشاپیش بر تصوری از ذهن انسانی تکیه دارد. اگر ذهن را به رفتار قابل مشاهده، کارکرد، پردازش اطلاعات یا توانایی تولید پاسخ فروبکاهیم، آنگاه مرز میان انسان و ماشین باریک‌تر می‌شود. اگر ذهن را در نسبت با آگاهی پدیداری، تجربه اول‌شخص، بدن‌مندی، جهان زیسته، معنا، حیث التفاتی و تاریخ انسانی بفهمیم، آنگاه فاصله‌ای عمیق‌تر میان هوش ماشینی و فهم انسانی پدیدار می‌شود. هوش مصنوعی از این جهت آینه‌ای فلسفی است؛ آینه‌ای که نشان می‌دهد انسان خود را چگونه فهمیده و چه ابعادی از وجود خود را فراموش کرده است.

در فلسفه ذهن، آزمون تورینگ و رویکردهای کارکردگرایانه امکان فهم ماشینی را جدی کردند. آن‌ها نشان دادند که هوشمندی را می‌توان نه صرفاً بر اساس ماده زیستی، بلکه بر اساس رفتار، نقش و کارکرد بررسی کرد. این رویکرد راه را برای تصور ذهن‌های غیرزیستی گشود و به هوش مصنوعی جایگاهی فلسفی بخشید. اما در برابر آن، سرل با اتاق چینی نشان داد که میان دست‌کاری صوری نشانه‌ها و فهم معنایی فاصله‌ای اساسی وجود دارد. نیگل بر کیفیت اول‌شخص تجربه آگاهانه تأکید کرد. جکسون نشان داد که دانستن همه داده‌های عینی درباره یک تجربه، جای خود تجربه را نمی‌گیرد. چالمرز با مسئله دشوار آگاهی روشن ساخت که توضیح کارکردهای شناختی هنوز توضیح پدیدار شدن تجربه نیست. این نقدها به معنای نفی ارزش هوش مصنوعی نیستند؛ بلکه ما را وامی‌دارند میان هوش، فهم، آگاهی، معنا، تجربه و رفتار تمایز بگذاریم.

انسان فقط پردازنده اطلاعات نیست. او موجودی بدن‌مند، تاریخی، موقعیت‌مند و درگیر با جهان است. فهم انسانی در خلأ رخ نمی‌دهد؛ در بستر جهان زیسته، زبان، سنت، عادت، رنج، مهارت، رابطه با دیگران و دل‌مشغولی‌های وجودی شکل می‌گیرد. دریفوس، با الهام از هایدگر و مرلوپونتی، نشان داد که هوش انسانی را نمی‌توان به قواعد صریح یا محاسبات نمادین فروکاست. انسان جهان را پیش از آنکه به‌صورت نظری بشناسد، در آن زندگی می‌کند. او با اشیا نه فقط در مقام داده، بلکه در مقام امکان، ابزار، خاطره، خطر، تعلق، نیاز و معنا مواجه می‌شود. همین امر نشان می‌دهد که مسئله هوش مصنوعی فقط این نیست که آیا ماشین می‌تواند پاسخ درست تولید کند؛ مسئله این است که آیا می‌تواند جهانی داشته باشد که در آن چیزها برایش اهمیت وجودی پیدا کنند.

حتی اگر بپذیریم که هوش مصنوعی فاقد آگاهی پدیداری و تجربه زیسته است، باز هم اثر تاریخی آن باقی می‌ماند. هوش مصنوعی شاید جهان را مانند انسان تجربه نکند، اما جهان انسانی را تغییر می‌دهد. شاید نفهمد، اما در مقام فهمنده عمل می‌کند. شاید آگاه نباشد، اما در آموزش، پزشکی، سیاست، اقتصاد، جنگ، رسانه، هنر، مدیریت و روابط انسانی نقش تصمیم‌ساز پیدا می‌کند. از همین‌جا مسئله از ذهن ماشینی به وضعیت انسانی منتقل می‌شود. هوش مصنوعی دیگر فقط ابزاری فنی نیست؛ بخشی از افق تاریخی‌ای است که در آن انسان، جهان و معنا به شیوه‌ای تازه صورت‌بندی می‌شوند.

در فلسفه تکنولوژی، هایدگر امکان فهم عمیق‌تر این وضعیت را فراهم می‌کند. تکنولوژی جدید نزد او صرفاً مجموعه‌ای از ابزارها نیست، بلکه نحوه‌ای از انکشاف جهان است. گشتل، به‌مثابه ماهیت تکنولوژی جدید، جهان را در مقام ذخیره، منبع، ماده خام و امکان بهره‌برداری آشکار می‌کند. در این افق، رودخانه منبع انرژی است، زمین معدن است، جنگل ذخیره چوب است، زمان سرمایه است و انسان نیروی انسانی، مصرف‌کننده، کاربر، داده رفتاری و واحد قابل مدیریت است. هوش مصنوعی این منطق را به مرحله‌ای تازه می‌رساند، زیرا نه فقط طبیعت و نیروی کار، بلکه زبان، حافظه، توجه، چهره، صدا، بدن، میل، تصمیم، سلیقه، عاطفه و روابط انسانی را نیز به داده تبدیل می‌کند.

خطر اصلی هوش مصنوعی از این منظر، تنها در قدرت گرفتن ماشین‌ها نیست. خطر عمیق‌تر آن است که جهان انسانی به‌گونه‌ای بازسازی شود که تنها آنچه قابل ثبت، اندازه‌گیری، ذخیره، پیش‌بینی و بهینه‌سازی است، واقعی‌تر و مهم‌تر شمرده شود. در چنین جهانی، تفکر به تولید پاسخ، زبان به داده زبانی، آموزش به خروجی قابل سنجش، سیاست به مدیریت رفتار، هنر به تولید محتوا، پزشکی به تحلیل شاخص‌ها، کار به بهره‌وری، حافظه به ذخیره اطلاعات و انسان به پروفایل قابل پیش‌بینی فروکاسته می‌شود. این فروکاست لزوماً با خشونت آشکار رخ نمی‌دهد؛ اغلب در قالب راحتی، سرعت، دقت، کارآمدی، شخصی‌سازی و بهبود تجربه کاربری پدیدار می‌شود. تکنولوژی جدید با همین آرامی معیارهای انسان را تغییر می‌دهد.

الول نشان می‌دهد که تکنیک چگونه منطق کارآمدی را بر همه حوزه‌های زندگی مسلط می‌کند. مامفورد یادآوری می‌کند که تکنولوژی با سازمان قدرت و ماشین اجتماعی پیوند دارد. مارکوزه نشان می‌دهد که عقلانیت تکنولوژیک می‌تواند تخیل انتقادی و امکان رهایی را محدود سازد. بورگمن نسبت میان دستگاه‌های آماده‌ساز و تضعیف تجربه عمیق انسانی را روشن می‌کند. آیدی نشان می‌دهد که تکنولوژی واسطه تجربه ما از جهان است. سیموندون امکان فهم غیرتقلیل‌گرایانه و غیرهراس‌آلود از فناوری را فراهم می‌آورد. استیگلر نسبت تکنولوژی با حافظه، زمان و میل را آشکار می‌سازد. زوبوف نشان می‌دهد که در سرمایه‌داری نظارتی، تجربه انسانی به ماده خام پیش‌بینی و سود تبدیل می‌شود. هوش مصنوعی در تقاطع همه این تحلیل‌ها قرار دارد: ابزار است، اما فقط ابزار نیست؛ امکان است، اما فقط امکان نیست؛ خطر است، اما فقط خطر نیست؛ نشانه‌ای تمدنی از نحوه‌ای تازه در فهم انسان و جهان است.

از این منظر، اخلاق هوش مصنوعی نیز باید ژرف‌تر از تنظیمات فنی و مقررات ابزاری باشد. البته شفافیت، عدالت الگوریتمی، حفظ حریم خصوصی، امنیت داده، مسئولیت‌پذیری، توضیح‌پذیری و جلوگیری از تبعیض ضروری‌اند. اما این‌ها کافی نیستند. پرسش بنیادین‌تر این است که چرا باید این مقدار از زندگی انسانی به داده تبدیل شود، کدام تصمیم‌ها نباید به الگوریتم سپرده شوند، و چگونه می‌توان کرامت انسانی را در جهانی حفظ کرد که میل دارد انسان را بر اساس الگوهای گذشته و احتمال‌های آینده تعریف کند. اخلاق هوش مصنوعی باید کرامت، آزادی، مسئولیت، امکان تغییر، امکان آغاز دوباره و بیش‌بودن انسان از داده‌هایش را در مرکز قرار دهد.

انسان همیشه بیش از آن چیزی است که از او ثبت شده است. بیش از تاریخچه جست‌وجوهای خود است، بیش از داده‌های سلامت خود، بیش از سوابق تحصیلی و شغلی خود، بیش از الگوهای مصرفی خود، بیش از امتیاز اعتباری خود، بیش از گرایش‌های سیاسی قابل پیش‌بینی خود، بیش از متن‌هایی که نوشته و تصویرهایی که دیده است. انسان می‌تواند بر خلاف گذشته خود عمل کند، می‌تواند از مسیرهای پیش‌بینی‌شده بیرون برود، می‌تواند توبه کند، ببخشد، بیافریند، مقاومت کند، دگرگون شود و معنایی تازه برای زندگی خود بسازد. هیچ نظام محاسباتی نباید این امکان را از او بگیرد. هر سامانه‌ای که انسان را به احتمال رفتاری، ریسک آماری یا پروفایل قابل مدیریت فروبکاهد، بخشی از حقیقت انسان را حذف کرده است.

بنابراین نسبت درست با هوش مصنوعی نه نفی کامل آن است و نه تسلیم شدن به آن. نفی کامل، ناتوان از فهم جهان جدید است و انسان را از امکان‌های واقعی فناوری محروم می‌کند. تسلیم شدن نیز انسان را به داده، خروجی، منبع و تابع منطق تکنولوژیک تبدیل می‌سازد. راه سوم، رابطه آزاد، مسئولانه و خلاق با هوش مصنوعی است. رابطه آزاد یعنی انسان از هوش مصنوعی استفاده کند، اما خود را با معیار هوش مصنوعی تعریف نکند. از داده بهره ببرد، اما داده را جای حقیقت ننشاند. از محاسبه استفاده کند، اما محاسبه را جانشین تفکر نسازد. از پیش‌بینی سود ببرد، اما آزادی را به احتمال فرو نکاهد. از سرعت و کارآمدی بهره گیرد، اما زمان تأمل، رنج یادگیری، تربیت زبان و عمق تجربه را نابود نکند.

این رابطه آزاد نیازمند سواد فلسفی و فرهنگی است، نه فقط مهارت فنی. انسان باید بداند هوش مصنوعی چگونه کار می‌کند، اما مهم‌تر از آن باید بداند چه چیزهایی را نمی‌تواند بفهمد، چه چیزهایی را پنهان می‌کند، چه چیزهایی را برجسته می‌سازد و چه تصویری از انسان را تقویت می‌کند. جامعه نیز باید نهادهایی بسازد که در آن‌ها هوش مصنوعی در خدمت انسان باشد، نه انسان در خدمت منطق داده. مدرسه باید هوش مصنوعی را در خدمت تفکر قرار دهد، نه جایگزین تفکر. دانشگاه باید آن را در خدمت پژوهش قرار دهد، نه جانشین تربیت علمی. پزشکی باید از آن برای دقت بیشتر بهره ببرد، نه برای حذف رابطه انسانی مراقبت. سیاست باید از آن برای شناخت بهتر مسائل عمومی استفاده کند، نه برای مهندسی پنهان افکار عمومی. هنر باید از آن به‌عنوان امکان تازه بیان استفاده کند، نه برای تبدیل خلاقیت به تولید انبوه فرم‌های مصرفی.

در نهایت، هوش مصنوعی ما را به یکی از بنیادی‌ترین پرسش‌های عصر جدید بازمی‌گرداند: انسان در جهانی که خود ساخته است، چگونه انسان می‌ماند. این پرسش دیگر فقط مسئله فیلسوفان، مهندسان، دولت‌ها یا شرکت‌های فناوری نیست. مسئله همه کسانی است که در جهانی زندگی می‌کنند که زبان، کار، آموزش، حافظه، سیاست، هنر و روابط آنان به‌تدریج با سامانه‌های هوشمند گره می‌خورد. هوش مصنوعی آینده‌ای دور نیست؛ اکنون در بافت زندگی انسانی حضور دارد و به همین دلیل، اندیشیدن درباره آن نیز نباید به آینده موکول شود. هرچه این فناوری نیرومندتر می‌شود، ضرورت تفکر انسانی درباره آن بیشتر می‌گردد.

معنای سخن هولدرلین که هایدگر آن را به یاد می‌آورد، در اینجا روشن‌تر می‌شود: آنجا که خطر هست، امکان نجات نیز می‌بالد. خطر هوش مصنوعی در فروکاست انسان به داده، جهان به منبع، زبان به خروجی، آموزش به عملکرد، سیاست به مدیریت رفتار و تفکر به محاسبه است. اما امکان نجات نیز در همین مواجهه پدیدار می‌شود. هوش مصنوعی می‌تواند ما را وادار کند که دوباره به معنای ذهن، آگاهی، زبان، بدن، آزادی، مسئولیت، هنر، آموزش و کرامت انسانی بیندیشیم. می‌تواند ما را متوجه کند که انسان را نباید با کارکردهای قابل تقلیدش یکی گرفت. می‌تواند به ما بیاموزد که شأن انسان نه در رقابت ساده با ماشین، بلکه در گشودگی او به معنا، حقیقت، دیگری، زمان، مرگ، رنج، خلاقیت و مسئولیت است.

از این رو، مسئله نهایی هوش مصنوعی این نیست که آیا ماشین‌ها روزی کاملاً شبیه انسان خواهند شد. مسئله نهایی این است که آیا انسان، در مواجهه با ماشین‌هایی که بسیاری از کارکردهای او را تقلید می‌کنند، هنوز می‌تواند آن ابعادی از خود را حفظ کند که تقلیدپذیر، داده‌پذیر و محاسبه‌پذیر نیستند. خطر اصلی آن نیست که ماشین انسان شود؛ خطر عمیق‌تر آن است که انسان خود را به ماشین شبیه سازد. راه نجات نیز نه در گریز از تکنولوژی، بلکه در احیای تفکر، حفظ کرامت، پاسداشت تجربه زیسته، مراقبت از آزادی، و برقراری رابطه‌ای آزاد با فناوری نهفته است. هوش مصنوعی هنگامی در خدمت انسان خواهد بود که انسان فراموش نکند بیش از آن چیزی است که الگوریتم می‌تواند از او بداند، پیش‌بینی کند یا بازتولید نماید.