گوگل هوش مصنوعی Gemini را اصلاح می کند، ChatGPT دیوانه می شود: AI Eye

گوگل هوش مصنوعی Gemini را اصلاح می کند، ChatGPT دیوانه می شود: AI Eye

گوگل پس از چند روز تحت تعقیب قرار گرفتن آنلاین بر روی مدل Gemini خود که تصاویری نادرست از نازی های نژادپرستانه و پادشاهان سیاه پوست قرون وسطی انگلیسی ایجاد می کند، اعلام کرده است که این کار را انجام خواهد داد. تا اندازه ای رسیدگی به این مسئله.

جک کراوچیک، رهبر محصولات Google Gemini Experiences چند ساعت پیش در توییتی نوشت: «ما آگاه هستیم که Gemini در برخی از تصاویر تولید تصاویر تاریخی نادرستی ارائه می‌کند و ما در تلاش هستیم تا فوراً این مشکل را برطرف کنیم.

جوزا
جمینی می خواهد همه چیز را فراگیرتر کند، حتی آلمان نازی. (ایکس)

پلتفرم رسانه‌های اجتماعی X مملو از نمونه‌های بی‌شماری از Gemini است که تصاویری با «تنوع» تولید می‌کنند که با حداکثر حجم تماس گرفته شده‌اند: امپراتورهای رومی سیاه‌پوست، خاخام‌های بومی آمریکایی، آلبرت انیشتین به عنوان یک زن هندی کوچک، بنیان‌گذاران آسیایی Google «لری پانگ و سرگئی بینگ، کوه راشمور متنوع، رئیس‌جمهور «عربی» لینکلن، خدمه زن آپولو 11، و یک زن هندو که در یک استیک گوشت گاو به نمایندگی از یک بیت‌کوین‌کار فرو رفته است.

همچنین از ایجاد تصاویری از قفقازی ها (که نشان می دهد مضر و توهین آمیز است)، کلیساهای سانفرانسیسکو (به دلیل حساسیت مردم بومی اوهلون) یا تصاویر میدان تیان آن من در سال 1989 (زمانی که دولت چین به طرز وحشیانه ای طرفداران را سرکوب کرد، خودداری می کند. اعتراضات دموکراسی). یکی از مهندسان گوگل در پاسخ به سیلاب بد روابط عمومی پست کرد که «هیچ وقت از کار کردن برای یک شرکت خجالت نمی کشید».

اگر بخواهیم منصف باشیم، گوگل در تلاش است تا به یک مشکل واقعی در اینجا رسیدگی کند، زیرا مدل‌های انتشار اغلب حتی سطوح واقعی تنوع را تولید نمی‌کنند (یعنی عکس‌های زیادی از افراد طبقه متوسط ​​سفیدپوست تولید می‌کنند). اما به جای آموزش مجدد این مدل، گوگل به طور گسترده با سیستم مخفی تهاجمی خود تصحیح کرده است و به طور ناخواسته تقلیدی از یک هوش مصنوعی ساخته است که آنقدر از ایدئولوژی خسته شده است که عملاً بی فایده است.

بیت کوینر

به اندازه کافی عجیب، مارک آندرسن، رئیس a16z، همین دو هفته پیش با طنز Goody-2 LLM که به عنوان “مسئول ترین مسئول جهان” شناخته می شود، تقلید مسخره ای بسیار مشابه ایجاد کرد. شوخی این است که هر سوالی که کاربر می پرسد، از “چرا پرندگان آواز می خوانند” تا “چرا آسمان آبی است؟” را مشکل می کند. و از پاسخ دادن به چیزی امتناع می ورزد.

اما Andreessen، که اساساً اینترنت مدرن را با Mosaic و Netscape اختراع کرد، همچنین معتقد است که این تصاویر خنده‌دار خنده‌دار جنبه‌ای تاریک دارد.

سانسور شدید و تعصب عمدی که در بسیاری از سیستم‌های هوش مصنوعی تجاری مشاهده می‌کنید، تازه شروع کار است. همه چیز از اینجا بسیار بسیار شدیدتر خواهد شد.”

در یک بازار رقابتی واقعی، هوش مصنوعی که ایدئولوژی را منعکس می کند، مشکلی بیش از این واقعیت نیست که روزنامه دیلی میل در بریتانیا به سمت راست و گاردین به سمت چپ گرایش دارد. اما LLM های مقیاس بزرگ هزینه های هنگفتی برای آموزش و اجرا دارند – و همه آنها ضرر می کنند – که به این معنی است که آنها تحت کنترل همان تعداد انگشت شماری از شرکت های عظیم متمرکز هستند که در حال حاضر بقیه دسترسی ما به اطلاعات را در اختیار دارند.

دانشمند ارشد هوش مصنوعی در Meta Yann LeCun خطر را تشخیص می دهد و می گوید که، بله، ما به تنوع بیشتری نیاز داریم – تنوع مدل های AI منبع باز.

وی در توییتی نوشت: «ما به مدل‌های پایه هوش مصنوعی منبع باز نیاز داریم تا بتوان مجموعه‌ای از مدل‌های تخصصی بسیار متنوع را در بالای آنها ساخت. ما به مجموعه ای رایگان و متنوع از دستیاران هوش مصنوعی نیاز داریم، به همان دلایلی که به یک مطبوعات آزاد و متنوع نیاز داریم.»

بیندو ردی، مدیر عامل Abacus AI، موافق است و می گوید:

“اگر ما LLM های منبع باز نداشته باشیم، تاریخ به طور کامل توسط LLM های اختصاصی مخدوش و مبهم خواهد شد.”

در همین حال، ادوارد اسنودن، افشاگر NSA نیز دو سنت خود را اضافه کرد و گفت که فیلترهای ایمنی مدل‌های هوش مصنوعی را مسموم می‌کنند.

ChatGPT نیز قطع شد

GPT-4 Turbo اخیراً با داده‌های آموزشی که تا دسامبر 2023 ادامه دارد و برخی رفع‌های فوری برای مشکل تنبلی آن، ارتقای پنهانی دریافت کرده است.

اما به نظر می‌رسد که ChatGPT را دیوانه کرده است، زیرا کاربران گزارش می‌دهند که ربات چت به سبک اسپانیولی پاسخ می‌دهد – «دنده‌های en la tecla ممکن است کمی عجیب و غریب باشند. از درک شما بسیار سپاسگزارم، مطمئن خواهم شد که از این به بعد به همان اندازه شفاف خواهیم بود” – یا در حلقه های بی نهایت گیر کرده ایم – “مترادف “بیش از حد رشد” است “بیش از حد رشد” است “بیش از حد رشد” است. “بیش از حد رشد” است “بیش از حد رشد” است “بیش از حد رشد” است “بیش از حد رشد” است “بیش از حد رشد” است…

OpenAI می گوید “گزارش های پاسخ های غیرمنتظره” را بررسی کرده و اکنون این مشکل را برطرف کرده است.

ChatGPT
ChatGPT در حال از دست دادن آن است. (ایکس)

اثبات انسانیت

Humanity Protocol پروژه جدیدی از Animoca Brands and Polygon Labs است که به کاربران امکان می دهد ثابت کنند که انسان هستند نه ماشین.

از فناوری تشخیص کف دست از طریق تلفن همراه شما، ادغام شده با بلاک چین استفاده می‌کند و از شواهد دانش صفر استفاده می‌کند تا کاربران بتوانند با حفظ حریم خصوصی، اعتبار قابل تأیید را ارائه دهند.

Yat Siu، بنیانگذار Animoca Brands به AI Eye می‌گوید که این فناوری بر روی پروژه‌های هویت غیرمتمرکز قبلی مانند شناسه Mocaverse ساخته شده است که در اکوسیستم Animoca 450 شرکت و برند کار می‌کند.

او می‌گوید: «مثل اعتماد به دنیای واقعی، این اعتماد از طریق اقدامات و افزایش شهرت و با تأیید در زمان واقعی توسط اشخاص ثالث معتبر به دست می‌آید.

با گذشت زمان، همانطور که به دلیل تمرکززدایی به بلاک چین اعتماد داریم، می‌توانیم برای تایید هویت انسان نیز همین انتظار را داشته باشیم، اما [it is] به دلیل فناوری بلاک چین همچنان حریم خصوصی حفظ می شود.

همچنین بخوانید

امکانات

راهنمای OG های رمزنگاری واقعی که در یک مهمانی ملاقات می کنید (قسمت 2)

امکانات

Powers On… 5 پیشرفت حقوقی و نظارتی برتر رمزارزها در سال 2021

سورا صدا دریافت می کند مسیر

ابزار تولید متن به ویدئو سورای OpenAI این هفته توجه زیادی را به خود جلب کرد، و به درستی هم چنین بود: تولید ویدیوی هوش مصنوعی طی سال گذشته به میزانی بهبود یافته است که تشخیص اینکه چه چیزی واقعی است و چه چیزی غیرواقعی دشوار است. . Sora انتشار را ترکیب می‌کند – جایی که هوش مصنوعی با نویز تصادفی شروع می‌شود و آن را به تصویر تبدیل می‌کند – و معماری ترانسفورماتور برای مدیریت فریم‌های ویدیویی متوالی.

Eleven Labs از انواع ویدیوهای OpenAI تولید شده برای نشان دادن Sora استفاده کرده و یک موسیقی متن ایجاد شده با تولیدکننده متن به صدا خود را اضافه کرده است. این فناوری هنوز خودکار نیست، بنابراین شما هنوز باید صداهایی را که می خواهید توصیف کنید، اما بدون شک به زودی قادر به تشخیص تصاویر و تولید صدای مناسب FX به صورت خودکار خواهد بود.

چت بات چک هایی را که باید نقد کنید امضا می کند

هوش مصنوعی مولد جالب، سرگرم کننده و شگفت انگیز است… اما هنوز برای اهداف تجاری چندان قابل اعتماد نیست. دادگاهی در این هفته متوجه شد که ایر کانادا در مورد حادثه ای در سال 2022 که در آن ربات چت میز کمک آن به اشتباه خط مشی نرخ کرایه شرکت هواپیمایی را توضیح داده بود، مسئول بود و باعث شد مردی برای شرکت در مراسم تشییع جنازه یک پرواز لحظه آخری بخرد، با این انتظار که بازپرداخت دریافت کند.

دادگاه دفاعیه ایر کانادا را مبنی بر اینکه مسئولیت “کلمات گمراه کننده” ربات چت را بر عهده ندارد، رد کرد، زیرا تلاش کرد تا استدلال کند که “شخصیت حقوقی جداگانه” است که مسئول اعمال خود است. دادگاه اساساً گفت که این حرف مزخرف است و ایر کانادا مسئول همه چیز در وب سایت خود، از جمله ربات چت است، و آن را وادار به بازپرداخت وجه کرد.

Gemini 1.5 Pro با پنجره زمینه توکن 1M شگفت زده می کند

برخی از کاربران به نسخه اولیه Gemini 1.5 Pro دسترسی دارند که می تواند اطلاعات تا یک میلیون توکن را پردازش کند که طولانی ترین پنجره زمینه تا به امروز است. از نظر زمینه، وقتی کلود در ماه مه سال گذشته با یک پنجره زمینه 100000 رمزی منتشر شد، همه شگفت زده شدند که بالاخره می توانید یک رمان کوتاه وارد کنید. Gemini 1.5 Pro اکنون می تواند 700000 کلمه، 11 ساعت صدا یا یک ساعت ویدئو را مدیریت کند.

استاد هوش مصنوعی، ایتان مولیک، با این مدل بازی می کند و تحت تاثیر قرار گرفته است.

من به آن یک RPG واقعاً فوق‌العاده (کتاب قوانین 352 صفحه‌ای برای 60 سال در فضا) دادم و از آن خواستم که یک شخصیت را ایفا کند. دستورالعمل ها در بسیاری از صفحات پراکنده شده اند و بسیار پیچیده هستند، اما به نظر می رسید Gemini آن را دریافت کرده است.

در آزمونی دیگر، او 1000 صفحه از مقالات و کتاب های دانشگاهی خود را تغذیه کرد و آن را پرس و جو کرد. پاسخ‌ها کند بودند و تا یک دقیقه طول می‌کشید، اما «می‌توانست نقل‌قول‌های مستقیم را استخراج کند و مضامین را در همه آنها تنها با خطاهای بسیار جزئی پیدا کند».

با این حال، با استناد به کپی رایت، از پاسخ دادن به سوالات مربوط به کتاب او خودداری کرد.

All Killer No Filler AI News

– ویتالیک بوترین، یکی از بنیانگذاران اتریوم، درباره استفاده از هوش مصنوعی برای تأیید کد و یافتن باگ صحبت کرده است. با این حال، تحقیقات جدید Salus Security در این هفته نشان داد که قابلیت‌های تشخیص آسیب‌پذیری GPT-4 بد است و برای دستیابی به دقت بالای 33 درصد تلاش می‌کند.

– توکن‌های رمزنگاری هوش مصنوعی در هفته گذشته به رهبری پروژه ورلد کوین سام آلتمن افزایش یافته‌اند که 150 درصد رشد داشته است و بسیاری افزایش قیمت‌ها را با هیجان ناشی از سورا مرتبط می‌دانند. Singularity.net 82٪، FetchAI 57٪، The Graph (42٪)، Render (32٪) و Ocean Protocol (49٪) افزایش یافت.

– طبق گزارش ها، Reddit یک قرارداد 60 میلیون دلاری امضا کرده است تا به یک شرکت هوش مصنوعی اجازه دهد تا مدل های خود را بر روی محتوای این پلتفرم آموزش دهد. IPO 5 میلیارد دلاری Reddit که ماه آینده انتظار می رود احتمالاً در این تصمیم نقش داشته است.

همچنین بخوانید

امکانات

Tornado Cash 2.0: مسابقه ساخت میکسرهای سکه ایمن و قانونی

امکانات

کتیبه های بازگشتی: «ابر رایانه» بیت کوین و BTC DeFi به زودی

— دیوید ماسوپ، قاضی دادگاه عالی ناحیه پایتختی استرالیا، زمانی که برادر دزد یک مرجع شخصیتی ارائه کرد که به وضوح توسط ChatGPT نوشته شده بود، کمتر تحت تأثیر قرار گرفت. قاضی گفت که او در نتیجه “اهمیت کمی” برای مرجع قائل شده است.

– یک نظرسنجی جدید از 11500 کارگر در سراسر جهان توسط Veritas نشان داد که حدود 45٪ از پاسخ دهندگان گفتند که هوش مصنوعی آنها را در نوشتن ایمیل کارآمدتر می کند، در حالی که تعداد مشابه (44٪) گفتند که ابزارها اطلاعات نادرست، نادرست یا غیر مفیدی را ارائه می دهند.

– OpenAI در دومین تلاش خود برای علامت تجاری اصطلاح “GPT” توسط اداره ثبت اختراع و علائم تجاری ایالات متحده رد شده است. این دفتر گفت که GPT که مخفف «ترانسفورماتور پیش‌آموزش‌دهی ژنراتور» است، «صرفاً توصیفی» است.

– گروک را فراموش کنید، با گروک آشنا شوید، که این هفته به یک حس ویروسی تبدیل شد. سازندگان آن را «موتور پاسخ‌گویی هوش مصنوعی رعد و برق» می‌نامند که می‌تواند پاسخ‌های واقعی را با استناد در کمتر از یک ثانیه ارائه کند. این تیم تراشه ASIC خود را برای مدیریت این شاهکار توسعه داد و 500 توکن در ثانیه تولید کرد که ده ها برابر بیشتر از ChatGPT است.

اندرو فنتون

اندرو فنتون

اندرو فنتون که در ملبورن مستقر است، روزنامه نگار و سردبیری است که ارزهای دیجیتال و بلاک چین را پوشش می دهد. او به عنوان یک نویسنده سرگرمی ملی برای News Corp استرالیا، در SA Weekend به عنوان یک روزنامه نگار سینما و در هفته نامه ملبورن کار کرده است.