At Senate Hearing… OpenAI CEO Calls for Laws to Mitigate Risks of Increasingly Powerful AI

QNA

Washington: The CEO of OpenAI, the company responsible for creating artificial intelligence chatbot ChatGPT and image generator Dall-E 2, Sam Altman called on the US Congress to pass legislation to regulate the development of AI at a time when the technology is gaining traction across the tech industry and beyond.

“Regulation of AI is essential” Altman stressed as he testified in his first appearance in front of the US Congress.

Speaking to the Senate judiciary committee, Altman said he supported regulatory guardrails for the technology that would enable the benefits of artificial intelligence while minimizing the harms.

“We think that regulatory intervention by governments will be critical to mitigate the risks of increasingly powerful models,” Altman said.

“As this technology advances, we understand that people are anxious about how it could change the way we live. We are too,” he added.

Altman suggested the US government might consider licensing and testing requirements for development and release of AI models. He proposed establishing a set of safety standards and a specific test models would have to pass before they can be deployed, as well as allowing independent auditors to examine the models before they are launched.

His San Francisco-based startup rocketed to public attention after it released ChatGPT late last year. The free chatbot tool answers questions with convincingly human-like responses.

What started out as a panic among educators about ChatGPTs use to cheat on homework assignments has expanded to broader concerns about the ability of the latest crop of “generative AI” tools to mislead people, spread falsehoods, violate copyright protections and upend some jobs.

And while theres no immediate sign Congress will craft sweeping new AI rules, as European lawmakers are doing, the societal concerns brought Altman and other tech CEOs to the White House earlier this month and have led US agencies to promise to crack down on harmful AI products that break existing civil rights and consumer protection laws, the Associated Press reported.

Also testifying were IBMs chief privacy and trust officer, Christina Montgomery, and Gary Marcus, a professor emeritus at New York University who was among a group of AI experts who called on OpenAI and other tech firms to pause their development of more powerful AI models for six months to give society more time to consider the risks. The letter was a response to the March release of OpenAIs latest model, GPT-4, described as more powerful than ChatGPT.

قنا

واشنطن: دعا سام ألتمان رئيس شركة الذكاء الاصطناعي التي تصنع /شات جي بي تي/، إلى تدخل حكومي وحاسم للتخفيف من مخاطر أنظمة الذكاء الاصطناعي المتزايدة بقوة.

وقال ألتمان في شهادته في جلسة استماع لمجلس الشيوخ الأمريكي، نقلتها عنه موقع /الحرة/ الأمريكي:”مع تقدم هذه التكنولوجيا، ندرك أن الناس قلقون بشأن الكيفية التي يمكن أن تغير بها الطريقة التي نعيش بها. ونحن أيضا نشعر بالأمر نفسه”.

واقترح ألتمان تشكيل وكالة أمريكية أو عالمية ترخص أنظمة الذكاء الاصطناعي وتتمتع بسلطة سحب هذا الترخيص، وضمان الامتثال لمعايير السلامة.

وحازت شركته الناشئة، التي تتخذ من سان فرانسيسكو مقرا لها، على اهتمام الجمهور بعد أن أطلقت /شات جي بي تي/ أواخر العام الماضي، وهي عبارة عن أداة روبوت محادثة مجانية تجيب على الأسئلة بإجابات مقنعة شبيهة بالإنسان.

وفي البداية، أثار /شات جي بي تي/، الذعر بين المعلمين حول إمكانية استخدامه للغش في مهام الواجبات المنزلية، لكن الأمر امتد ليشمل مخاوف أوسع بشأن قدرة أدوات الذكاء الاصطناعي التوليدي على تضليل الناس ونشر الأكاذيب وانتهاك حماية حقوق الطبع والنشر وإلغاء بعض الوظائف.

وذكرت وكالة /أسوشيتد برس/ للأنباء، أنه رغم عدم وجود أي إشارة فورية على أن الكونغرس سوف يضع قواعد جديدة شاملة للذكاء الاصطناعي، كما يفعل المشرعون الأوروبيون، فإن المخاوف المجتمعية دفعت ألتمان وغيره من الرؤساء التنفيذيين التقنيين إلى التوجه للبيت الأبيض، في وقت سابق من مايو الجاري، ودفعت الوكالات الأمريكية إلى التعهد بقمع أدوات الذكاء الاصطناعي الضارة التي تنتهك الحقوق المدنية الحالية وقوانين حماية المستهلك.

وحول أسوأ مخاوفه بشأن الذكاء الاصطناعي، تجنب ألتمان التفاصيل، لكنه اقترح لاحقا أن تقوم وكالة تنظيمية جديدة بفرض ضمانات من شأنها تنظيم عمل نماذج الذكاء الاصطناعي التي يمكنها التكرار الذاتي والتسلل الذاتي.

وشارك ألتمان في تأسيس شركة “أوبن إيه أي”، عام 2015، بدعم من إيلون ماسك الرئيس التنفيذي لشركة /تويتر/، ثم تطورت الشركة من مختبر أبحاث غير ربحي إلى شركة، ومن أهم منتجاتها المشهورة الأخرى التي تعمل بالذكاء الاصطناعي، صانع الصور /DALL-E/.