Essence

دوست عزیز، از طرف دانشجوی هوش مصنوعی پاریس سکلی بهت: تصورت از AGI که برات فیلم شخصی می‌سازه قشنگه، ولی نشون می‌ده درک درستی از هوش مصنوعی نداری. همون سیستمی که بتونه از حرف‌هات فیلم سه‌بعدی بسازه، اگه واقعاً AGI باشه دیگه ابزار نیست. عامل مستقله با اهداف خودش. سیستمی که از انسان باهوش تره و برای رسیدن به اون اهداف می‌تونه منابع، کنترل و حتی وجود انسان رو مانع ببینه. این نتیجه‌ی مستقیم instrumental convergence و مشکل alignment هست موضوعی که صدها کشور دارن براش قانون می‌نویسن. اتفاقا فیلم‌هایی مثل Ex Machina، Upgrade و Soulm8te حتی اگه سینمایی ضعیف باشن تلنگرهای لازم‌ان. خوبی‌ها رو کسی انکار نمی‌کنه. اما کسی که فقط خوبی‌ها رو می‌بینه و خطرات رو مسخره می‌کنه، هنوز صلاحیت وارد شدن به این بحث رو نداره.