این هفته در امنیت: AI Hacker ، Fortmajeure و Project Zero

یکی از مباحث داغ در حال حاضر از LLM برای مطالعه امنیت استفاده می کند. گزارش های با کیفیت پایین که توسط LLMS نوشته شده است ، اساس برنامه های تشخیص آسیب پذیری است. اما تلاش های به همان اندازه جالبی برای قرار دادن LLM برای انجام تحقیقات مفید وجود دارد. یک داستان از این دست است [Romy Haik] در Ulterar ، سعی در ساختن یک هکر هوش مصنوعی. خیلی جامع نیست که یک مبتدی ساده لوحانه از هوش مصنوعی بخواهد آسیب پذیری ها را پیدا کند ، [Romy] او می داند چه کاری انجام می دهد. ما این را می دانیم زیرا او به وضوح به ما می گوید که هکر ، که توسط LLM اداره می شود ، به طرز تماشایی شکست خورده است.
برنامه ساخت یک ارکستر چند LLM بود که یک هوش مصنوعی در بالای آن نشسته است که شرایط را در طول فرآیند حفظ می کند. LLM های چندگانه در زیر این یکی قرار می گیرند و تصمیم می گیرند چه کاری بیشتر انجام دهند ، دقیقاً چگونه به مشکل نزدیک شوند و در واقع دستوراتی را برای این ابزارها ایجاد کنند. سپس یک AI دیگر در صورت موفقیت آمیز ، خروج و ارقام را می گیرد. مجموعه ابزار مونتاژ شد و [Romy] آن را در چندین دستگاه مجازی مجازی به عمد آسیب پذیر تنظیم کنید.
همانطور که در بالا اشاره کردیم ، نتایج قانع کننده اما تاریک بود. این LLM با موفقیت یک کد از راه دور (RCE) ، یک تزریق SQL و سه نقص در اسکریپت ها (XSS) را پیدا کرد. این انتشار کل چیزی شبیه به یک تبلیغات ناخوشایند برای اسکنر اتوماتیک Ultared واقعی است که از روشهای اسکن آسیب پذیر معمولی تر استفاده می کند. اما این یک مقایسه مفید است و نزدیک به 100 آسیب پذیری در بین اهداف پیدا کرده است.
هوش مصنوعی با یافتن بسیاری از مثبت های جعلی ، آنچه را که انتظار دارید انجام داد. از هوش مصنوعی بخواهید که آسیب پذیری را توصیف کند و از انجام آن خوشحال می شود – هیچ آسیب پذیری واقعی لازم نیست. اما مشکل واقعی بارها و بارها بود که پشته AI یک مشکل را نشان داد و نتوانست آن را تحقق بخشد. [Romy] افکار وجود دارد که چرا این تجربه شکست خورده است و دو امتیاز برجسته است. اولین مورد این است که در حالی که LLM می تواند در حمله به خلاقیت خلاق باشد ، اما هنگام تجزیه و تحلیل نتایج واقعاً وحشتناک است. مشاهده دوم یکی از مهمترین مشاهدات است که باید با توجه به هوش مصنوعی امروز در نظر داشته باشید. او واقعاً نمی خواهد آسیب پذیری پیدا کند. یکی از نشانه های محققان امنیتی ، وسواس نزدیک آنها هنگام یافتن نتیجه عالی است.
هدیه
داستان قبلی را قبول نکنید به این معنی که AI هرگز قادر به انجام تحقیقات آسیب پذیری نخواهد بود یا حتی این که در حال حاضر یک ابزار مفید نیست. ایالات متحده DARPA را برای رقابت برای Def Con امسال حمایت مالی می کند ، و یکی دیگر از متخصصان امنیتی اعلام کرده است که سیستم سایبر برای استدلال در Buttercup AI برنده مقام دوم است. اکنون به عنوان یک پروژه منبع باز در دسترس است.
این چالش کمی متفاوت از حمله آزاد علیه VM بود. در چالش DARPA ، ابزارهای AI چالش های خاص و کد C یا Java را دریافت می کنند و به آنها گفته شده است که به دنبال مشکلات هستند. Buttercup از یک رویکرد برای Blur AI استفاده می کند و یکی از مزایای قابل توجه با این چالش این است که اغلب آسیب پذیری منجر به فاجعه آشکار در برنامه می شود و از دست دادن آن حتی برای هوش مصنوعی دشوار است.
تیم آتلانتا مقام اول را کسب کرد و یادداشت هایی در مورد روند آنها وجود دارد. تکمیل آنها در وهله اول از ابتدا تقریباً از بین رفت ، به دلیل یک قانون بررسی جاده ای برای رعایت قوانین مسابقه. ابزارهای هوش مصنوعی با مهار تاری که مجاز به تغییر نبودند ، فراهم شد و هدف نهایی این بود که در واقع برای رفع مشکلات موجود ، تکه هایی بنویسید. همه چالش ها در دایرکتوری های حاوی برآورده شده است ossfuzzایجاد کدی که در برابر نقض قوانین برای تغییر اصلاح محافظت می کند. یک کد عجولانه برای هک کردن یک کد در آخرین لحظه موفق به پاک کردن این موضوع و حفظ کل مسابقه شد.
فورتماجور
ما این نوشتار را داریم [0x_shaq]یافتن یک بای پس بسیار سرگرم کننده برای تأیید اعتبار در Fortueb. مشکل اصلی عدم اعتبار بخشی از کوکی در جلسه است. این کوکی چندین بخش دارد که مورد علاقه ماست. او Era این زمینه یک عدد صحیح واحد است که به نظر می رسد در حالی که نسخه پروتکل یا نوع جلسه را نشان می دهد Payload وت AuthHash این زمینه ها اطلاعات رمزگذاری شده در مورد جلسه و یک هش امضا شده برای تأیید هستند.
این که Era انتظار می رود این زمینه فقط 0 یا 1 باشد ، اما کد اصلی هشت مقدار ممکن را به همان روش پردازش می کند: با دسترسی به عنصر نهم یک آرایه ، حتی اگر Massif در واقع به اندازه عناصر اولیه باشد. و یکی از مواردی که Massif شامل آن خواهد بود ، کلید رمزگذاری/امضای کوکی برای یک جلسه است. این حافظه ناآگاه احتمالاً بیشترین یا کاملاً صفر خواهد بود که یک کلید بسیار قابل پیش بینی برای یک جلسه ایجاد می کند.
پروژه صفر
Google چندین عنصر جالب در پروژه وبلاگ خود صفر دارد. اولین مورد از پایان ماه ژوئیه است و تغییر در نمونه به محدودیت زمان را تشریح می کند. مشکل در اینجا این است که افشای 90 روزه به تأمین کننده فوری زمان کافی برای ایجاد مشکل می دهد ، اما حتی با یک برنامه افزودنی 30 روزه ، این مسابقه برای همه کاربران در زیر زنجیره است که اعمال می کنند ، آزمایش و توزیع می کنند. ایده جدید این است که از قبل یک آسیب پذیری یک هفته اضافه کنید. یک هفته پس از کشف آسیب پذیری ، وجود آن به نمودار نسخه های آینده اضافه می شود. بنابراین ، اگر یک رمزگذار یکپارچه Dolby Unified را در یک پروژه یا محصول ارسال می کنید ، تقویم خود را برای 25 سپتامبر ، از جمله ده ها آسیب پذیری از قبل آزاد شده ، علامت گذاری کنید.
عنصر دوم Project Zero یک آسیب پذیری است که در لینوکس یافت می شود ، که می تواند توسط جعبه ماسه برای رندر کروم ایجاد شود. در قلب ماده بایت در خارج از نوار قرار دارد که می تواند به عنوان بخشی از سوکت های یونیکس ارسال شود. این یک ویژگی خاص نامشخص و در عین حال پیش فرض فعال است ، که ترکیبی عالی برای تحقیقات امنیتی است.
منطق هسته برای این ویژگی را می توان هنگام کار با بسیاری از این پیام های یک بیت و در نهایت حافظه هسته رایگان اشتباه گرفت ، در حالی که انگشت شاخص هنوز هم آن را نشان می دهد. استفاده کردن recv() Syscall دوباره در این لانه و دسترسی به حافظه آزاد شده انجام می شود. این منجر به خاطره بسیار خوبی از هسته می شود ، خواندن ابتدایی ، اما همچنین بسیار محدود می نویسد. در این حالت ، این برای افزایش یک بایت واحد ، 0x44 بایت در ساختار داده فعلی است. تبدیل این به یک عملیات کاری یک چالش بود ، اما برآورده شد و عمدتاً در ساخت یک شی کاذب در یک حافظه کنترل شده با مصرف کننده ، باعث افزایش و سپس استفاده مجدد از لانه برای مجبور کردن هسته برای استفاده از جسم جعلی می شد.
بیت و بایت
Cymulate داستان یک Microsoft NTLM Patch داستان را دارد که این کافی نبود. مشکل اولیه این بود که یک دستگاه ویندوز می تواند متقاعد شود که به یک سرور از راه دور NTLM برای بازیابی A متصل شود .ico پرونده همین اشتباه را می توان با ایجاد میانبر ایجاد کرد که دلالت دارد .ICO در داخل باینری باینری هدف تعبیه شده و در قسمت دور افتاده SMB قرار می گیرد. این به خصوص بد است زیرا این یکی سرور را نابود می کند و هش NTLM را فقط با نشان دادن نماد عرشه نشت می کند.
هسته Freeflow Xerox یک جفت شاهکار داشت ، به طور جدی تر می تواند یک RCE غیرمجاز را فراهم کند. اولین مشکل در تزریق تشکیل خارجی XML (XXE) است که در آن درخواست کاربر می تواند هنگام پردازش درخواست به محتوای از راه دور سرور منجر شود. جدی تر این است که فقط یک فایل عبور جاده را بارگذاری کنید ، که باعث می شود یک خطای خطای آسان در وب باشد.
Claroty’s Team82 برای دوربین های امنیتی وارد پروتکل ارتباطات Axis شد و عناصر جالبی پیدا کرد. محور ماندن از TL های متقابل استفاده می کند ، که خوب است. اما این گواهینامه های خود طراحی شده است که هرگز معتبر نیستند ، که به یک فرد بی اهمیت در وسط اجازه می دهد. جدی ترین سوال آسیب پذیری تخریب JSON بود که به RCE برای خود این سرویس اجازه می دهد. صفحات در دسترس هستند و به ویژه برای سیستم های محور که در اینترنت باز موجود هستند ، از اهمیت ویژه ای برخوردار هستند.


