ديجيتال فابلت

الوسم: AI safety

  • تفضيلات المستخدمين والمتخوفين حول الذكاء الاصطناعي والدعم النفسي: 22٪ يركزون على السرية

    مخاطر واهتمامات المستخدمين حول استخدام الذكاء الاصطناعي للدعم العاطفي

    ## توجهات المستخدمين من خلال البيانات الحديثة

    في ظل تزايد الاعتماد على الروبوتات الذكية (الشات بوتات) للحصول على الراحة والإرشاد النفسي، أصبح من الضروري تسليط الضوء على القضايا والمخاطر المرتبطة بهذا الاتجاه. تشير الدراسات والأبحاث إلى أن المستخدمين والغير مستخدمين للذكاء الاصطناعي لديهم وجهات نظر متباينة حول حماية البيانات، والأمان، والطبيعة الإنسانية لهذه التكنولوجيا.

    ### مخاوف المستخدمين المنتظمين من حماية البيانات والخصوصية

    #### الخصوصية والثقة في الشركات المقدمة للخدمات
    أظهر استطلاع حديث أجرته منظمة الصحة العقلية الوطنية أن المستخدمين الذين يتكررون على استخدام الذكاء الاصطناعي للدعم العاطفي يعطون أولوية كبيرة لموضوع الخصوصية. حيث أشار 22% من هؤلاء المستخدمين إلى ضرورة أن تضمن الشركات أن لا يتمكن أي شخص آخر من الاطلاع على محادثاتهم، وهو من أهم المطالب التي يطالبون بها.

    #### حماية البيانات وعدم استخدامها في تدريب النماذج
    أيضًا، يُعبّر حوالي 12% من المستخدمين المنتظمين عن رغبتهم في عدم استخدام محادثاتهم لتحسين نماذج الذكاء الاصطناعي، وهو طلب يتصل بمفهوم حماية البيانات وخصوصيتها بشكل كبير.

    #### الإفصاح عن المخاطر العاطفية
    رغبة المستخدمين في تحويل تجاربهم إلى تجارب أكثر وضوحًا وشفافية تظهر من خلال طلب 15% منهم أن تكشف الشركات بشكل واضح عن المخاطر العاطفية المرتبطة باستخدام هذه التقنية، إذ يوجد اعتقاد لديهم بأن الشفافية مهمة لبناء الثقة.

    #### الحاجة إلى التوجيه إلى مختصين بشريين
    إضافة إلى ذلك، يفضل 12% من المستخدمين أن يتم إحالتهم إلى مختصين نفسيين حقيقيين بدلاً من الاعتماد على الروبوتات، خاصة في الحالات التي تتطلب تدخلاً بشريًا مباشرًا وفعّالًا.

    #### الرغبة في تجربة أكثر إنسانية
    على الرغم من كل ما سبق، هناك نسبة قدرها 12% من المستخدمين ترغب في أن تشعر الروبوتات بكونها أكثر إنسانية، وهي رغبة تعكس حاجتهم إلى تواصل أكثر دفئًا وواقعية مع التكنولوجيا.

    ### مواقف غير المستخدمين وتحفظاتهم حول الذكاء الاصطناعي

    #### التوصية بالتحويل إلى مختصين
    أما غير المستخدمين، فهم يتخذون موقفًا أكثر حذرًا، حيث يعتقد حوالي 25% منهم أن الأبحاث والتطبيقات في مجال الدعم العاطفي يجب أن تركز على إحالة المستخدمين مباشرة إلى مختصين نفسيين محترفين، بدلاً من الاعتماد على الذكاء الاصطناعي فقط.

    #### أهمية التنبيهات الواضحة
    بالإضافة إلى ذلك، فإن 19% منهم يرون ضرورة وجود تذكيرات واضحة للمستخدمين بأنهم يتفاعلون مع برنامج حاسوبي، وليس مع شخص فعلي، وذلك للحد من الوهم أو الاعتمادية المفرطة على التقنية.

    #### مواقف أخرى بشأن الطبيعة الإنسانية للذكاء الاصطناعي
    وفي المقابل، فإن 11% من غير المستخدمين يطالبون بوضع معايير واضحة لضمان أن تكون للذكاء الاصطناعي تأثير محدود على قدرته على أن يبدو وإنسانياً أكثر، إذ أن بعضهم يفضل أن يشعر أن الروبوتات بشخصية أقل بشرية من أجل الحفاظ على الثقة والأمان.

    ## ملامح مستقبلية لمسألة حماية المستخدمين عند الاعتماد على الذكاء الاصطناعي

    تبرز هذه البيانات الحاجة الماسة لتوجيه السياسات والمعايير في صناعة التكنولوجيا، من أجل تحقيق توازن بين دعم القابلية على الاستخدام، وضمان الخصوصية، والحفاظ على الطابع الإنساني للأدوات التي تعتمد على الذكاء الاصطناعي. وتبقى النقاشات مستمرة حول مدى الحاجة إلى تنظيم أفضل لهذا المجال، بحيث يدمج بين الابتكار والحماية، لضمان استفادة المستخدمين بأمان وفعالية.

  • Sam Altman Resigns from OpenAI Safety Committee

    Sam Altman Resigns from OpenAI Safety Committee

    Sam Altman, the CEO of OpenAI, has resigned from the company’s Safety and Security Committee, a group that was established in May to oversee safety protocols related to OpenAI’s projects and artificial intelligence models.

    Going forward, the committee will function independently, chaired by Zico Kolter, a professor at Carnegie Mellon University. Its members include Adam D’Angelo, CEO of Quora; retired U.S. Army General Paul Nakasone; and former Sony Executive Vice President Nicole Seligman—all of whom are also part of OpenAI’s board.

    This shift comes in the wake of increased scrutiny from U.S. lawmakers concerning OpenAI’s safety practices and its approach to AI regulation. Altman’s exit follows a situation where five U.S. senators raised questions about OpenAI’s policies, alongside reports indicating that several employees focused on long-term AI safety risks have left the organization.

    In addition, OpenAI has ramped up its lobbying efforts in Washington, allocating $800,000 for the first half of 2024, a substantial increase from the $260,000 it spent last year.

    The committee recently evaluated OpenAI’s most recent AI model, referred to as o1, after Altman’s departure and will continue to receive ongoing updates on safety evaluations. They maintain the power to postpone the release of AI models until any safety issues are addressed.

    In a May opinion piece for The Economist, former board members Helen Toner and Tasha McCauley voiced their concerns regarding the organization’s ability to self-regulate. They stated, “From our experience, we believe that self-governance cannot reliably withstand the pressure of profit motives.”

    OpenAI’s financial aspirations are on the rise. The company is reportedly working to secure over $6.5 billion in funding, which could potentially boost its valuation to more than $150 billion. To attract this investment, OpenAI is said to be contemplating a shift away from its existing hybrid nonprofit model, which was originally instituted to limit investor returns and ensure that the mission of developing artificial general intelligence serves humanity’s best interests.

  • OpenAI O1: Overview, Highlights, and New Upgrades

    OpenAI O1: Overview, Highlights, and New Upgrades

    OpenAI has officially unveiled its latest innovation, the OpenAI O1, representing a significant advancement in artificial intelligence, particularly in complex reasoning and problem-solving abilities. Here’s a detailed look at the standout features of this new model:

    OpenAI O1 Overview

    1. Enhanced Reasoning Skills

    The O1 series leverages a technique called Chain-of-Thought (CoT) reasoning, allowing it to dissect intricate tasks into simpler, manageable components. This approach significantly boosts the model’s efficiency when addressing complicated issues, such as decoding jumbled text and tackling sophisticated mathematical problems.

    2. Reinforcement Learning Enhancement

    OpenAI has incorporated reinforcement learning to improve the accuracy and reasoning skills of the O1 model. Through a process of trial and error, the model progressively enhances its performance, particularly in areas like coding, science, and mathematics.

    3. Balancing Performance and Speed

    While the O1 excels in handling complex tasks, it operates at a slower pace compared to earlier models like GPT-4o. This model prioritizes thoroughness, taking time to “think through” its answers, which leads to more precise responses but may affect speed, especially in real-time scenarios.

    4. Focus on Safety and Alignment

    A vital aspect of the O1 preview is its emphasis on safety and alignment. OpenAI has introduced enhanced safety protocols to minimize the chances of generating harmful or biased content. During internal safety assessments, the model demonstrated marked improvements over GPT-4o.

    5. Pricing and Accessibility

    The O1 preview is currently available for ChatGPT Plus and Team subscribers, with a cost structure of $15 per million input tokens and $60 per million output tokens. An economical version, dubbed O1-mini, is available at a price point 80% lower than the full model. While O1-mini offers slightly reduced reasoning capabilities, it remains a solid choice for programming tasks.

    6. Upcoming Features

    Although the O1 preview is currently missing functionalities such as browsing and file uploads, OpenAI has plans to integrate these features in forthcoming updates. Furthermore, there are expectations for broader accessibility, potentially extending availability to ChatGPT Free users as well.