گفتگو|آموزش در چنگال هوش مصنوعی و تأثیرپذیری از چتGPT
رئیس انجمن هوش مصنوعی گفت: تلفیق هوش مصنوعی و اینترنت می‌تواند منجر به سلب قدرت تصمیم‌گیری از انسان و عادت‌دادن وی به فکرنکردن شود، این اتفاق با استفاده از چت‌بات‌ها فهم و تفکر مستقل انسان را تهدید می‌کند.
گروه دانشگاه خبرگزاری تسنیم ـ زینب امیدی: در عصر دیجیتال، هوش مصنوعی نه‌تنها به‌عنوان یک فناوری پیشرو بلکه به‌عنوان ابزاری برای تغییرات عمیق اجتماعی، فرهنگی و اقتصادی ظهور کرده است. با وجود پتانسیل‌های فراوان، تطبیق این فناوری با فرهنگ‌ها و ارزش‌های محلی به یک چالش عمده تبدیل شده است. در ایران، عدم وجود چشم‌انداز واضح و مناسب برای به‌کارگیری هوش مصنوعی، موجب شده است این فناوری نتواند به‌خوبی با زمینه‌های فرهنگی و اجتماعی کشور تطبیق یابد.
تناقض میان فرهنگ و فناوری/ چشم‌انداز هوش مصنوعی در ایران
بررسی ضرورت‌ها و ملاحظات فرهنگی در استفاده از هوش مصنوعی پرداختن به نقاط ضعف و قوت سندهای ملی موجود از نکات مهم این حوزه است، همچنین نقش هوش مصنوعی در حل معضلات اجتماعی، چالش‌های موجود در بخش آموزش و تأثیرات آن بر رفتار و خودآگاهی انسان باید مورد تحلیل قرار گیرد. هدف نهایی، دستیابی به راهبردهایی است که نه‌فقط برای پیشرفت تکنولوژیکی، بلکه برای تقویت هویت فرهنگی و اجتماعی کشورمان کارآمد باشد.
در دهه‌های اخیر، پیشرفت چشمگیر در حوزه هوش مصنوعی نه‌تنها فرصت‌های جدیدی را برای نوآوری و رشد اقتصادی به‌ارمغان آورده، بلکه چالش‌های پیچیده‌ای را نیز پدید آورده است. همان‌طور که کشورها به‌سوی دیجیتال‌سازی کامل حرکت می‌کنند، نحوه ترکیب این فناوری‌های نوین با ارزش‌ها و فرهنگ‌های محلی به موضوعی حیاتی تبدیل شده است، چرا که تعارض بین فناوری و فرهنگ می‌تواند موانعی جدی بر سر راه توسعه پایدار ایجاد کند،
ایران به‌عنوان یکی از کشورهای در حال توسعه که منابع انسانی و فکری قابل‌توجهی دارد، از این قاعده مستثنی نیست، اما، نبود یک چارچوب ملی جامع و روشن که بتواند بهره‌برداری از فناوری‌های هوش مصنوعی را با زمینه‌های فرهنگی و اجتماعی کشور همسو کند، به یکی از دغدغه‌های اصلی صاحب‌نظران و سیاست‌گذاران تبدیل شده است.
این گزارش تلاش می‌کند با تحلیل وضعیت فعلی و مرور تجربیات کشورهای پیشرو، به سؤال‌های کلیدی پیرامون شیوه‌های کارآمدتر استفاده از هوش مصنوعی پاسخ دهد.
یکی از بخش‌های کلیدی این مسئله، بررسی نقش هوش مصنوعی در حل معضلات اجتماعی است. فناوری هوش مصنوعی می‌تواند در حوزه‌هایی مانند بهداشت، آموزش، کاهش فقر و بهبود خدمات عمومی نقش بسزایی ایفا کند، با این حال، برای بهره‌برداری مؤثر از این ظرفیت‌ها، نیاز به برنامه‌ریزی دقیق و ایجاد زیرساخت‌های مناسبی داریم که بتواند فرهنگ و ارزش‌های ملی را در مرکز توجه قرار دهد.
علاوه بر این، بخش آموزش از جمله زمینه‌هایی است که می‌تواند به‌طور مثبتی از هوش مصنوعی بهره‌مند شود، اما استفاده نادرست از آن نیز می‌تواند به چالش‌های جدی مانند کاهش نقش معلمان و افت کیفیت آموزشی منجر شود. ایجاد تعادل مناسب بین استفاده از فناوری به‌عنوان ابزار کمکی و حفظ مؤلفه‌های انسانی در فرآیند آموزش، از جمله مسائل مورد بحث در این گزارش است.
در نهایت، با توجه به احتمال افزایش تأثیرات تکنولوژیکی بر رفتار و تفکر انسان‌ها و مخاطراتی که از نظر اجتماعی و فرهنگی به‌همراه دارد، این گزارش به بررسی راهکارهایی برای حفظ حریم خصوصی، ارتقاء مهندسی فرهنگی و تعریف دقیق‌تر از استفاده‌های مسئولانه از هوش مصنوعی در جامعه ایران می‌پردازد. هدف این است که با رویکردی جامع و همه‌جانبه، مسیر ایران به‌سوی پذیرش و استفاده بهینه از هوش مصنوعی هموارتر شود، در حالی که ارزش‌ها و هویت ملی حفظ و تقویت گردد.
ما برای بررسی بیشتر بررسی فلسفه هوش مصنوعی و نحوه استفاده آن در کشور سراغ محمدهادی زاهدی مدیرکل فناوری اطلاعات و امنیت فضای مجازی وزارت علوم و رئیس انجمن هوش مصنوعی رفتیم که در ادامه بخش اول این گفتگو را می‌خوانید.
تسنیم: چگونه می‌توانیم هوش مصنوعی را به‌گونه‌ای تطبیق دهیم که با فرهنگ و ارزش‌های ملی و دینی سازگار باشد؟ چه سؤالات بنیادی باید مطرح شوند تا بتوانیم هدف‌گذاری و کاربردهای هوش مصنوعی را به‌شکل مؤثرتری در کشور تعیین کنیم؟
بنیان هوش مصنوعی بر پایه‌های فرهنگی/ لزوم تعریف اهداف برای هوش مصنوعی در ایران
زاهدی: در حوزه هوش مصنوعی سند ملی مصوب داریم، اما به‌دلیل پراکندگی و تنوع اهداف و چشم‌اندازها و از سویی نبود نگاشت نهادی و پیش‌بینی دقیق منابع اعتباری به‌نظر نمی‌رسد که بتوان شاهد تحقق شاخص‌های تبیین‌شده و امیدوار به رسیدن به یک نقطه مشخص باشیم. هوش مصنوعی برای هر کشوری باید بر پایه‌های فرهنگی و باورهای ملی بنیان شود، متأسفانه، ما ابتدا به‌دنبال کسب و پذیرش فناوری هستیم و سپس تلاش می‌کنیم به‌عنوان یک ضمیمه یا پیوست، ملاحظات فرهنگی را در آن لحاظ کنیم، در حالی که بایستی ابتدا فرهنگ فناوری را طراحی و تبیین کرد و سپس سراغ خود فناوری رفت. خاستگاه تحول در حوزه فناوری باید از حوزه‌های علوم انسانی و از جنس فرهنگی و اجتماعی باشد،
به‌عنوان مثال، کره جنوبی سال‌های قبل به این فهم رسید که برای موفقیت و نام‌آوری در عرصه فناوری و صنعت، نیازمند فرهنگ‌سازی است و در دانشگاه‌های علوم انسانی و مطالعات اجتماعی آن مفهوم و حوزه‌ای به‌نام فناوری فرهنگ (Cultural Technology) ایده‌پردازی و پیاده‌سازی شد. آن‌ها دریافتند برای اینکه در دنیا مطرح شوند باید پیام‌هایی از جنس جدیت و دقت، شفافیت و سلامت، صحت و کیفیت به دنیا مخابره کنند تا دنیا نسبت به محصولات کره، روی خوش نشان دهد و درهای بازارهای اقتصادی به‌روی محصولات کره‌ای باز باشد، ابزار مخابره این پیام صنعت فیلم و سینمای کره شد که تأثیرات آن را در تغییر نگاه دنیا به مردم کره و محصولات ساخت کره تغییر داد.
ما باید برای تعریف حوزه‌های اولویت‌دار هوش مصنوعی در کشور مدام از خود بپرسیم که در چه زمینه‌هایی و برای چه منظوری می‌خواهیم از آن استفاده کنیم، چه چالش‌ها یا دغدغه‌هایی وجود دارد که بهره‌گیری از هوش مصنوعی می‌تواند کمک به حل آن کند و در گام بعدی و پس از درک مسائل، ترسیم و پیش‌بینی کنیم که چه نتیجه‌ای را انتظار داریم، این سؤالات، در حقیقت نقاط مبهم تعیین حوزه‌های اولویت‌دار هوش مصنوعی در کشور ما هستند و در سند ملی نیز به آن‌ها واضح اشاره نشده است. به‌عقیده من، روح حاکم بر سند ما مشخص نیست. محققان ژاپنی بررسی کرده‌اند که تا ده سال آینده با بحران‌هایی از جنس افسردگی و پیری و انزوا و فردگرایی مواجه هستند و بنابراین تمرکز برنامه‌ریزی و اولویت‌های‌شان در استفاده از هوش مصنوعی بر مبنای ارائه خدمات و محصولاتی است که این بحران‌ها را به حداقل برساند، چراکه در این کشور کمتر با چالش‌هایی از جنس بهره‌وری و بهینه‌سازی مواجه‌اند.
تسنیم: چگونه می‌توان از هوش مصنوعی در حل معضلات اجتماعی بهره برد؟ چه مراحلی باید برای توسعه نقشه راه هوش مصنوعی در حوزه‌های مختلف پیگیری کنیم؟
هوش مصنوعی، محرک یا ناجی معضلات اجتماعی؟
زاهدی: ما باید برای استفاده صحیح و هدفمند از دانش و فناوری هوش مصنوعی در تمامی حوزه‌ها مانند تاریخ و تمدن، پزشکی و سلامت، آموزش و مهارت، صنعت و کشاورزی و موضوعاتی از جنس فرهنگی و اجتماعی نقشه راه داشته باشیم، اما چون چشم‌انداز مشخصی نداریم و هدفگذاری‌های کلان و عام داشته‌ایم، هر کسی براساس برداشت خود کاری را آغاز کرده است، لیکن همگرایی لازم بین بخش‌های مختلف مشاهده نمی‌شود. دنیا از هوش مصنوعی برای حل یا کاهش برخی معضلات اجتماعی کمک گرفته است، چالش‌هایی از جنس بیکاری، بی‌عدالتی، حقوق شهروندی، مفاسد اقتصادی، جرایم و موارد دیگر که می‌توان از این تجربیات جهانی برای حل مسائل ایده گرفت.
تسنیم: استفاده نادرست از هوش مصنوعی در حوزه آموزش کشور چه مشکلات و معضلاتی را ایجاد می‌کند؟ چه گام‌هایی باید برداشته شود تا هوش مصنوعی به‌عنوان یک مکمل کارآمد در آموزش به‌کار گرفته شود و نه به‌عنوان جایگزین؟
زاهدی: یکی از دستاوردهای هوش مصنوعی توسعه ابزارها و خدمات هوش مصنوعی است که به‌طور گسترده‌ای مورد استفاده دانش‌آموزان و دانشجویان هستند، اگر از این ابزارها به‌درستی استفاده شود، هم به استاد و هم به دانشجو در پیشبرد کارهای تحقیقاتی و ارتقای سطح مهارت و اثربخشی آموزش کمک خواهند کرد، اما اگر به‌درستی استفاده نشوند و از این ابزارها صرفاً به‌عنوان مرجع پاسخ به سؤالات استفاده شود، ولی کمکی به کنش‌هایی از جنس خلاقیت و نوآوری نشود و موجب آسیب به عملکردهایی از نوع همفکری، تعاون، مشارکت، پرس‌وجو و کنکاش شوند آسیب‌های جدی به نظام آموزشی و ذی‌نفعان خواهد زد، چرا که اکنون همین ابزارها مقاله و کتاب می‌نویسند، ارائه آماده می‌کنند، کدنویسی انجام می‌دهند و معادلات ریاضی پیچیده را حل می‌کنند.
به فلسفه و مبانی هوش مصنوعی کمتر پرداخته شده است
تا این لحظه به فلسفه و مبانی نظری هوش مصنوعی کمتر پرداخته شده است و نگاه صرفاً بهره‌برداری از این ابزارها، تکنیک‌ها، الگوریتم‌ها و الگوهاست. نباید فراموش کرد این انسان است که می‌تواند در شرایط خاص و با درک محیط اطرافش و دخیل کردن تجربیات و حتی احساسات تصمیمی اتخاذ کند.
یکی از چالش‌ها در کشورهایی که صرفاً بهره‌بردار از فناوری هستند، کمرنگ شدن کارهای تیمی است، که مدارس و دانشگاه‌ها باید تمرکز ویژه‌ای بر این مسئله داشته باشند. تفکر انتقادی و توانایی تحلیل و درک مسائل و بیان دیدگاه در مورد آن‌ها باید در افراد جامعه و به‌ویژه جامعه دانش‌آموزی و دانشجویی تقویت شود. به‌یاد داشته باشیم که تحول دیجیتال به‌دنبال تغییر در نگرش‌ها و رویکردها است تا بتوانیم از ابزار فناوری برای انتقال بهتر مفاهیم و خلق یک تجربه شیرین یادگیری با بهره‌گیری از مفاهیم شخصی‌سازی و پروفایل‌سازی استفاده کنیم، اما در زمان حاضر، نگاه جامعه به این حوزه فناوری، صرفاً فنی است، در حالی که دنیا دقیقاً رویکرد متفاوتی دارد که لازمه آن کارهایی از نوع مهندسی فرهنگی و مهندسی اجتماعی است.
تسنیم: گذراندن آن دو واحد درسی هوش مصنوعی برای دانشجویان در این مسیر چقدر کمک‌دهنده است؟
نقشه راهی برای آینده/ آموزش در چنگال هوش مصنوعی
زاهدی: گذراندن درس دوواحدی هوش مصنوعی آغاز خوبی برای ارتقای سطح سواد هوش مصنوعی جامعه است اما یقیناً کافی نیست، معتقدم هوش مصنوعی به‌واسطه ماهیت چندوجهی‌اش، فراتر از یک رشته تحصیلی است و نمی‌توان آن را صرفاً به یک گرایش یا رشته دانشگاهی محدود کرد. فراموش نکنیم که اگر آخرین زیرساخت‌های پردازشی و ذخیره‌سازی هوش مصنوعی را در کشور داشته باشیم اما نیروی انسانی ماهر و متخصص را نداشته باشیم، مانند هواپیمای جنگی آخرین مدلی اما بدون خلبان و اسکادران است، لذا یکی از اولویت‌های کشور باید تربیت نیروی انسانی متخصص و ماهر باشد.
البته در ساحت موضوعات فلسفه هوش مصنوعی اساتید و صاحب‌نظران ما باید به این پرسش‌ها پاسخ دهند؛ آیا هوش مصنوعی در همه موارد و مواجهه با متغیرهای بیرونی هوشمندانه‌تر از انسان عمل می‌کند؟ آیا این ماشین می‌تواند به خودآگاهی کامل برسد؟ آیا هوش مصنوعی می‌تواند به سطحی از هوش انسانی دست پیدا کند که قابل جایگزینی با انسان شود؟ آیا از هوش مصنوعی می‌توان برای نظارت بر هوش مصنوعی استفاده کرد؟ آیا به نقطه‌ای خواهیم رسید که ماشین جایگزین انسان شود؟ اگر به این نقطه برسیم، نقش انسان چه خواهد شد؟ باید به این سؤالات پرداخته شود و ماهیت این سؤالات بیشتر نظری هستند تا کاربردی و فنی.
دوران جدید فناوری‌های دیجیتال تغییرات بسیاری را در رفتارهای اجتماعی و شخصی انسان‌ها ایجاد کرده است، به‌خصوص، جوانان و نوجوانان به‌سمت بازی‌های برخط، سکوهای دیجیتال و فعالیت‌های مجازی گرایش پیدا کرده‌اند، و این نگرانی وجود دارد که این رفتار به کاهش تعاملات فیزیکی و فعالیت‌های تیمی منجر شود و تبعاتی همچون کاهش مسئولیت‌پذیری و ضعیف‌شدن کار گروهی و ارتباطات اجتماعی را به‌دنبال داشته باشد.
تسنیم: چگونه می‌توانیم مهندسی فرهنگی و اجتماعی را در اولویت قرار دهیم تا نگاه صرفاً فنی به هوش مصنوعی کاهش یابد؟
آیا هوش مصنوعی قدرت تصمیم‌گیری از انسان را سلب خواهد کرد؟
زاهدی: یکی از چالش‌های مهم دیگر، تغییر در مفهوم داده و حریم خصوصی است. با ظهور اینترنت اشیا، بسیاری از اشیای پیرامونی مانند گوشی‌های هوشمند، حلقه‌های هوشمند، قفل‌های هوشمند، یخچال‌های هوشمند، فبلت‌ها و تبلت‌ها، ساعت‌های هوشمند، جاکلیدی‌های هوشمند، عینک‌های هوشمند و بسیاری اشیای دیگر اطلاعات حیاتی و شخصی از کاربران را جمع‌آوری می‌کنند. تحلیل این جریان داده پویا و مستمر و استخراج الگوی رفتاری هر فرد اگرچه می‌تواند در بسیاری از کاربردها به شخصی‌سازی کمک کند، اما استفاده از این داده‌های حیاتی و بعضاً بدون آگاهی کاربر مخاطرات و تهدیدهایی برای آرامش و آسایش جامعه به‌همراه خواهد داشت که با تفکر توسعه فناوری در تضاد است؛ داده‌هایی مانند وضعیت سلامت، موقعیت مکانی، تماس‌ها و پیام‌ها، تعاملات اجتماعی در معرض خطرات امنیتی و نقض حریم خصوصی قرار دارند، بنابراین، حفاظت از حریم خصوصی و تنظیم‌گری در این حوزه ضروری است، باید علاوه بر تلاش برای حفظ و امنیت داده‌ها، بر رفتارها و تعاملات نیز نظارت داشت تا حریم خصوصی افراد تضمین شود،
به همین ترتیب، مشاهده می‌شود که علی‌رغم تغییر سبک زندگی‌ها متأثر از فناوری‌های نوین، الگویی برای جهت‌دهی این سبک زندگی طراحی و ارائه نشده است. تفکر و رفتار انسان‌ها به‌آرامی تحت‌تأثیر تلاقی دو فناوری هوش مصنوعی و اینترنت در حال تغییر است، بدون اینکه الگوی مشخصی برای مدیریت این تغییرات وجود داشته باشد.
در آینده ای نه‌چندان دور شاهد آن خواهیم بود که این فناوری‌ها به تغییر تفکر انسان‌ها منجر خواهند شد. تلفیق هوش مصنوعی و اینترنت می‌تواند منجر به روندی شود که در آن ابزارها و سیستم‌های هوشمند، قدرت تصمیم‌گیری را از انسان سلب کنند و آن‌ها را به فکرنکردن عادت بدهند، این استفاده جهت‌دار از فناوری می‌تواند مخرّب و سمّی باشد.
تسنیم: چگونه می‌توانیم به تأثیرات هوش مصنوعی بر خودآگاهی و توانایی تصمیم‌گیری مستقل بپردازیم؟
زاهدی: توسعه ابزارهایی همچون بات‌ها و دستیارهای هوشمند که بر پایه الگوهای زبانی بزرگ ایجاد شده‌اند و به‌صورت عمدتاً رایگان و به‌عنوان یک سرویس عمومی هوش مصنوعی توسط شرکت‌های غول فناوری در اختیار جوامع قرار گرفته‌اند، تهدیدی جدی هستند در زمینه تحریف باورهای دینی و فرهنگ و آداب و رسوم ملی و هنجارهای اجتماعی، این‌ها چالش‌های توسعه فناوری هستند که قادر به تسلط بر قدرت تفکر و تصمیم انسان شوند؛ یعنی دقیقاً نقطه تمایز انسان با سایر موجودات. اگر این روند به همین شکل ادامه پیدا کند، پیش‌بینی می‌شود که تا سال 2030 هوش مصنوعی به‌طور گسترده‌ای روی رفتار، فکر و باورهای جامعه بشری سلطه پیدا کند، و این آغاز شکل‌گیری نسل جدیدی از استعمار به‌نام استعمار فناوری است.
تأثیر فناوری‌های دیجیتال بر تعاملات اجتماعی
هوش مصنوعی یک حوزه دانشی مرزبندی‌شده نیست که بتوان برایش حد تعیین کرد و از همگرایی حوزه‌های مختلف شکل گرفته است، برای بررسی آن باید تمامی ابعاد فرهنگی، اجتماعی، سیاسی و اقتصادی را در نظر گرفت، چرا که اثرات مستقیمی روی همه این حوزه‌ها خواهد گذاشت. هوش مصنوعی یک پارادایم پویا و در حال تکامل است که نیازمند تغییرات بنیادین در نوع تصمیم‌گیری، در روش‌های کسب‌وکار و تعاملات اجتماعی است. معتقدم می‌توان دنیای معاصر را به دو بازۀ زمانی قبل و بعد از عصر هوش مصنوعی تقسیم کرد. هوش مصنوعی با همگرایی و تلاقی با فناوری اینترنت و در عصر تحول دیجیتال به تغییر سبک زندگی و کسب‌وکار منجر شده است و هرچه پیش می‌رویم، قدرت آن بیشتر می‌شود به‌شکلی که تاکنون هیچ فناوری دیگری همچون نانو، لیزر و... نتوانسته است چنین تغییرات شگرفی را رقم زند.
در عصر حاضر، ما مستلزم تغییر در نحوه تصمیم‌گیری، شیوه تفکر و نگرش‌هایمان به موضوعات و مسائل هستیم. در این عصر داده و اطلاعات، صاحب قدرت و مکنت هستند. هوش مصنوعی بدون داده مانند کارخانه‌ای بدون مواد اولیه است. یکی از مشکلات کشور این است که مجموعه داده‌ها و دادگان استاندارد محدودی برای انجام پژوهش‌های مطالعاتی است.
ادامه‌داربودن رویه فعلی تا چهار سال آینده بحران و چالش جدی ایجاد خواهد کرد
بایستی سواد و آگاهی عمومی از هوش مصنوعی و ابزارهای آن در جامعه ارتقا پیدا کند. الزاماً هوش مصنوعی و ابزارهای آن از جمله چت‌بات یا ربات‌های گفتگوگر، اطلاعات صحیح را ارائه نمی‌دهند و چه‌بسا بسیاری از محتواهای تولیدشده و پیام‌های ردو‌بدل‌شده، جهت‌دار و همراه با سوگیری باشند. چه‌بسا فردی از چت‌بات‌ها برای حل معضل تنهایی، مشاوره بگیرد و به‌‌جای تشویق به تشکیل خانواده یا پیوستن به کانون خانوادگی و آشنایان، به مسیرهای دیگری توصیه شود، لذا، میزان استنادپذیری و بی‌طرفی مشاوره‌هایی که هوش مصنوعی ارائه می‌کند از درجه اهمیت بالایی برخوردار است، زیرا هوش مصنوعی می‌تواند به همان میزان که مفید است، مضر و سمی باشد. اگر به فکر تولید الگوهای زبانی بزرگ و پیاده‌سازی ربات‌های هوشمند و گفتگوگر نباشیم و با حرکت در مسیر فعلی، تا چهار سال آینده با بحران‌ها و چالش‌های جدی روبه‌رو خواهیم شد.
تسنیم: چگونه از تأثیرات منفی بالقوه هوش مصنوعی بر فرهنگ و اجتماع پیشگیری کنیم؟
الگویی برای تصمیم‌گیری در نظام حکمرانی دیجیتال معرفی نشده/ اینترنت اشیا و ظهور اینترنت رفتار
زاهدی: برای تصمیم‌گیری هوشمندانه در عصر هوش مصنوعی، پیش از هر چیزی باید در نوع تفکر و نگرش‌مان تغییر ایجاد کنیم. دو الگو اخیراً برای کمک به فرآیندهای تصمیم‌گیری ارائه شده است: الگو‌هایی بر اساس نظریه‌های شناختی که بر درک و تحلیل اطلاعات تأکید دارند و به اتخاذ تصمیمات منطقی کمک می‌کنند و الگو‌هایی مبتنی بر نظریه‌های رفتاری که تأثیرات اجتماعی و روان‌شناختی را در نظر می‌گیرند، با این حال، برای ما هنوز یک الگوی درست برای تصمیم‌گیری در نظام حکمرانی دیجیتال معرفی نشده است.
مسئله دیگری که مطرح است، پاسخ به این پرسش است؛ با فرض ماشینی و هوشمندشدن بسیاری از فرآیندها و جایگزینی انسان با ماشین، تکلیف کنش‌ها و واکنش‌های احساسی و رفتاری چه خواهد شد؟ آیا الگوهای رفتاری ماشین قابل تحلیل است؟ چند سال پیش پروژه‌ای برای تعریف و یادگیری زبان مکالمه بین ربات‌ها اجرا شد، بعد از مدتی مشاهده شد که ربات‌ها با خودآگاهی زبانی را برای گفتگو بین خود ابداع کردند که انسان از درک و فهم آن عاجز بود و دغدغه‌های جدی بین توسعه‌دهندگان این پروژه ایجاد کرد تا جایی که با افزایش شدت نگرانی‌ها، تداوم پروژه متوقف شد.
انتهای پیام/+