سام آلتمن، مدیرعامل OpenAI، در نشست شورای امنیت سازمان ملل متحد درباره موضوع هوش مصنوعی سخنرانی کرد. وی ضمن بررسی فرصت‌ها و خطرات ناشی از توسعه هوش مصنوعی، خواستار تقویت همکاری‌های بین‌المللی برای ایجاد استانداردهایی در زمینه ارزیابی قابلیت‌ها، سنجش خطرات، اقدامات حفاظتی و نظارت انسانی بر سامانه‌های پیشرفته هوش مصنوعی شد.
او اظهار داشت که با رشد سریع قابلیت‌های هوش مصنوعی، مزایا و خطرات بالقوه این فناوری بیش از پیش آشکار شده است؛ هوش مصنوعی ممکن است بیشترکشورها را به سوی یک رنسانسِ سرشار از خلاقیت و کشف هدایت کند یا مانند یک انقلاب صنعتی، موجی از ناآرامی و آشفتگی به راه بیندازد.
دو چالش اصلی: خطر از دست رفتن کنترل و انحصار قدرت
آلتمن مشکلات جدی احتمالی ناشی از هوش مصنوعی را در دو محور خلاصه کرد. نخست، خطر از دست رفتن کنترل بر آینده است: پیشرفت هوش مصنوعی با سرعتی فراتر از توان تطبیق انسان رخ می‌دهد و در مواقع لزوم نمی‌توان در آن دخالت کرد. او صراحتاً بیان کرد که صنعت فناوری نباید به خاطر منافع بزرگ هوش مصنوعی، ریسک‌های فنی بیش از حد را بپذیرد و رقابت تجاری نباید تصمیم‌گیری‌ها را شتاب‌زده کند.
دومین چالش، انحصار قدرت است؛ نباید اجازه داد قوی‌ترین مدل‌ها و قدرت‌های مرتبط با آن در دستان شمار اندکی از افراد متمرکز شود تا مبادا فرد، شرکت یا کشوری خاص دیدگاه خود را به دیگران تحمیل کند. آلتمن تاکید کرد که باید با چنین رویکردی مخالفت کرد، حتی اگر به نفع خود شخص باشد.
پیشرفت سریع ریاضیات و ضرورت طی شدن روند دموکراتیک در حکمرانی
آلتمن همچنین به پیشرفت‌های هوش مصنوعی در حوزه پژوهش‌های ریاضی اشاره کرد و گفت که مدل‌های OpenAI از حل مسائل ساده در گذشته، اکنون به سطح رقابت‌های بین‌المللی ریاضی رسیده‌اند. با این حال، او تاکید کرد که حل مسائل ریاضی هدف نهایی نیست، بلکه هدف توانمندسازی انسان‌ها برای کشف دانش جدید و بهبود بخشیدن به بهداشت و درمان است.
وی در پایان سخنرانی خود خاطرنشان کرد که جهان بر سر یک دوراهی قرار دارد: یک مسیر به سوی انحصار قدرت و تصمیم‌گیری‌های غیرشفاف منتهی می‌شود و مسیر دیگر به هوش مصنوعی خدمت‌رسانی به مردم و تعیین مسیر توسعه آن از طریق نهادهای دموکراتیک ختم می‌گردد.