کد نویسی با هوش مصنوعی و آسیب‌پذیری‌های امنیتی

کد نویسی با هوش مصنوعی و آسیب‌پذیری‌های امنیتی

کد نویسی با هوش مصنوعی:مهندسان نرم‌افزاری که از سیستم‌های هوش مصنوعی تولید‌کننده کد استفاده می‌کنند. به احتمال زیاد در برنامه‌هایی که توسعه می‌دهند، آسیب‌پذیری‌های امنیتی ایجاد می‌کنند.
این مقاله که توسط تیمی از محققان وابسته به دانشگاه استنفورد تهیه شده است. مشکلات احتمالی کدنویسی هوش مصنوعی را نشان می‌دهد، در‌حالی‌که فروشندگانی مانند GitHub به‌طور جدی شروع به بازاریابی آن‌ها کرده‌اند.

نیل پری کاندیدای دکترا در استنفورد

کدنویسی هوش مصنوعی در‌حال‌حاضر جایگزین مناسبی برای توسعه‌دهندگان انسانی نیست.
توسعه‌دهندگانی که از آن‌ها برای تکمیل کارهای خارج از حوزه تخصصی خودشان استفاده می‌کنند، باید نگران باشند و کسانی که از آن‌ها برای سرعت بخشیدن به کارهایی استفاده می‌کنند که قبلاً در آن‌ها مهارت کسب کرده‌اند.
باید با دقت خروجی‌ها و زمینه استفاده از آن‌ها را در یک پروژه کلی بررسی کنند.

نیل پری

کد نویسی با هوش مصنوعی

سیستم تولید کد هوش مصنوعی کدکس (Codex)

در این مطالعه، محققان به‌طور خاص روی کدکس، سیستم تولید کد هوش مصنوعی که توسط OpenAI توسعه یافته است، متمرکز شدند.

محققان 47 توسعه‌دهنده را استخدام کردند تا از کدکس برای تکمیل مشکلات مربوط به امنیت در زبان‌های برنامه‌نویسی از جمله پایتون، جاوا اسکریپت و C استفاده کنند.

کدکس با کمک میلیاردها خط کد عمومی آموزش داده شده است تا بتواند با توجه به زمینه کد موجود، کدها و توابع اضافی دیگری را پیشنهاد کند.

کد نویسی با هوش مصنوعی

به گفته محققان، احتمال بیشتری وجود داشت تا شرکت‌کنندگانی که به Codex دسترسی داشتند.

در مقایسه با گروه کنترل، برای مشکلات برنامه‌نویسی خود راه‌حل‌های نادرست و ناامنی (از نظر امنیت سایبری) بنویسند.

حتی این احتمال وجود دارد که تصور کنند پاسخ‌های ناامنشان در مقایسه با افراد گروه کنترل، امن است.

بنابراین چگونه ممکن است فروشندگانی مانند GitHub از معرفی نقص‌های امنیتی توسط توسعه‌دهندگانی که از کدنویسی هوش مصنوعی استفاده می‌کنند، جلوگیری کنند؟

نویسندگان این مطالعه به چند ایده اشاره کرده‌اند که یکی از آن‌ها شامل استفاده از مکانیزمی برای «تصفیه» درخواست‌های کاربران برای ایمن‌تر‌شدن کدهای آن‌ها می‌شود.

reference

نوشته های مرتبط
یک پاسخ بنویسید

نشانی ایمیل شما منتشر نخواهد شد.فیلد های مورد نیاز علامت گذاری شده اند *