در بیشتر دوران دستگاه‌های هوشمند، «هوش مصنوعی» در یک محصول متصل به شبکه به معنای ارسال داده‌ها به فضای ابری، اجرای استنتاج روی یک سرور و ارسال نتیجه به عقب بود. این رفت‌وبرگشت زمانی به اندازه کافی خوب کار می‌کرد که وظیفه مورد نظر نسبت به کمی تأخیر تحمل‌پذیر بود و می‌توانستیم روی یک اتصال اینترنتی پایدار حساب کنیم.
اما هیچ‌کدام از این فرض‌ها برای سهم رو به رشدی از دستگاه‌های متصل امروزی صادق نیستند؛ و همین موضوع باعث می‌شود پردازش هوش مصنوعی مستقیماً به خود سیستم روی تراشه (SoC) بی‌سیم هدایت شود — نه به عنوان یک تراشه جداگانه، بلکه به صورت یکپارچه در همان سیلیکونی که ارتباطات را مدیریت می‌کند.
چرا هوش مصنوعی صرفاً ابری دیگر به اندازه کافی خوب نیست؟
سه مشکل عملی، پردازش هوش مصنوعی را به سمت لبه شبکه سوق دادند:
تأخیر بسیار مهم‌تر از آن است که رفت‌وبرگشت‌های ابری بتوانند از پس آن برآیند. یک دوربین امنیتی که باید یک انسان را از یک خودروی در حال عبور تشخیص دهد، یا یک دستگاه مجهز به صوت که به یک کلمه بیداری پاسخ می‌دهد، به پاسخی نیاز دارد که بر حسب میلی‌ثانیه اندازه‌گیری شود — نه صدها میلی‌ثانیه‌ای که یک رفت‌وبرگشت به سرور ابری معمولاً به آن اضافه می‌کند.
نمی‌توان همیشه روی اتصال شبکه حساب کرد. دستگاهی که فقط با اتصال زنده اینترنت کار می‌کند، دستگاهی است که در هنگام قطعی، در مکانی با پوشش ضعیف یا در لحظه‌ای که روتر خانگی نیاز به راه‌اندازی مجدد دارد، از کار می‌افتد. برای هر چیز مرتبط با امنیت یا ایمنی، این یک شکاف واقعی در قابلیت اطمینان است.
استنتاج مداوم ابری پیامدهای واقعی در زمینه پهنای باند و هزینه دارد. استریم کردن داده‌های خام حسگر یا ویدیو به فضای ابری برای هر استنتاج، در مقیاس میلیون‌ها دستگاه مستقر، هم از نظر پهنای باند و هم هزینه محاسبات ابری گران است — پردازش محلی و ارسال فقط نتایج معنادار به بالادست به طور چشمگیری کارآمدتر است.
انتظارات مربوط به حریم خصوصی تغییر کرده است. برای برنامه‌هایی مانند دوربین‌های خانگی یا دستگاه‌های صوتی، پردازش داده‌های حساس به صورت محلی به جای استریم مداوم آن‌ها به یک سرور ابری، به یک مزیت رقابتی واقعی برای محصول تبدیل شده است، نه فقط یک ترجیح فنی.
معنای واقعی «SoC هوش مصنوعی لبه» در سطح سیلیکون چیست؟
یکپارچه‌سازی قابلیت هوش مصنوعی در یک SoC بی‌سیم مستلزم چیزی بیش از افزودن یک پردازنده سریع‌تر است. چند عنصر معماری مشخص می‌کنند که چه چیزی یک تراشه را واقعاً برای استنتاج مفید در لبه توانمند می‌سازد:
شتاب‌دهی اختصاصی هوش مصنوعی، نه فقط یک CPU همه‌منظوره سریع‌تر. اجرای کارآمد استنتاج شبکه عصبی به طور چشمگیری از سخت‌افزاری سود می‌برد که به طور خاص برای عملیات ماتریسی طراحی شده است که بر بارهای کاری هوش مصنوعی تسلط دارند — یک CPU همه‌منظوره از نظر فنی می‌تواند استنتاج را اجرا کند، اما با کسری از کارایی شتاب‌دهی اختصاصی.
معماری حافظه متناسب با اندازه مدل. مدل‌های هوش مصنوعی روی دستگاه باید در حافظه موجود SoC جا شوند و بهره‌وری حافظه به طور مستقیم تعیین می‌کند که چه پیچیدگی مدلی — و در نتیجه چه دقت وظیفه‌ای — را یک تراشه مشخص می‌تواند واقعاً پشتیبانی کند.
بازده انرژی برای عملیات همیشه روشن. بسیاری از موارد استفاده از هوش مصنوعی لبه (تشخیص کلمه بیداری، تشخیص حضور، تشخیص ناهماهنگی) نیازمند این هستند که پردازش هوش مصنوعی به طور مداوم اجرا شود، نه فقط زمانی که فعال می‌شود — که این امر بازده انرژی در طول استنتاج را به اندازه خود قابلیت پردازش مهم می‌سازد.
نقش رو به رشد RISC-V. سهم قابل توجهی از SoC های بی‌سیم جدید مجهز به هوش مصنوعی لبه روی معماری‌های RISC-V ساخته شده‌اند، تا حدی به دلیل مزایای هزینه لایسنس که RISC-V در حجم بالا ارائه می‌دهد، و تا حدی به این دلیل که قابلیت توسعه RISC-V به طراحان تراشه اجازه می‌دهد دستورالعمل‌های سفارشی تنظیم‌شده به‌طور اختصاصی برای بارهای کاری هوش مصنوعی را بدون انتظار برای نقشه راه یک فروشنده معماری انحصاری اضافه کنند.
هوش مصنوعی لبه امروزه در کجای محصولات ظاهر می‌شود؟
- امنیت و دوربین‌های هوشمند: تشخیص فرد/خودرو/حیوان روی دستگاه، هشدارهای کاذب را در مقایسه با تشخیص حرکت ساده به طور چشمگیری کاهش می‌دهد، بدون اینکه نیازی به استریم مداوم ویدیو به فضای ابری برای تجزیه‌وتحلیل باشد.
- دستگاه‌های مجهز به صوت: تشخیص محلی کلمه بیداری به دستگاه اجازه می‌دهد بدون استریم مداوم صوت به یک سرویس ابری پاسخگو بماند — صوت تنها پس از تشخیص کلمه بیداری به صورت محلی به بالادست ارسال می‌شود.
- حسگرهای صنعتی و تعمیرات پیش‌گیرانه: تشخیص محلی ناهماهنگی در داده‌های ارتعاش، دما یا آکوستیک به حسگرهای صنعتی اجازه می‌دهد مشکلات واقعی را به صورت محلی پرچم‌گذاری کنند، به جای اینکه برای تشخیص خرابی در حال وقوع تجهیزات به اتصال مداوم ابری نیاز داشته باشند.
- دستگاه‌های پوشیدنی سلامت و تندرستی: پردازش محلی داده‌های بیومتریک (الگوهای ضربان قلب، تشخیص زمین‌خوردن، دسته‌بندی فعالیت) هم پاسخگویی را بهبود می‌بخشد و هم مانع از نیاز داده‌های حساس سلامت به عبور از فضای ابری برای هر خوانش می‌شود.
- اتوماسیون ساختمان هوشمند: تشخیص الگوهای اشغال و رفتار که به صورت محلی پردازش می‌شود به سیستم‌های تهویه مطبوع و روشنایی اجازه می‌دهد در زمان واقعی و بدون وابستگی به فضای ابری برای منطق اتوماسیون پایه پاسخ دهند.
مصالحه عملی: پیچیدگی مدل در برابر محدودیت‌های تراشه
واقعیت صادقانه مهندسی این است که هوش مصنوعی لبه با محدودیت‌های واقعی مواجه است که استنتاج ابری با آن‌ها روبرو نیست — یک مدل باید در حافظه و بودجه پردازشی SoC جا شود، به این معنی که مدل‌های مستقر در لبه معمولاً ساده‌تر و دارای دامنه محدودتری نسبت به همتایان ابری خود هستند.
این یک محدودیت برای دور زدن نیست، بلکه یک اصل طراحی برای پذیرش است: هوش مصنوعی لبه تمایل دارد برای وظایف خوش‌تعریف و محدود (تشخیص کلمه بیداری، دسته‌بندی شخص در برابر غیرشخص، پرچم‌گذاری ناهماهنگی) بهترین عملکرد را داشته باشد تا استدلال عمومی باز، که همچنان متعلق به فضای ابری است.
یک معماری محصول با طراحی خوب به طور فزاینده‌ای این تقسیم کار را به صراحت منعکس می‌کند — مدیریت استنتاج‌های محدود، حساس به تأخیر و همیشه روشن به صورت محلی روی SoC بی‌سیم، در حالی که وظایف استدلالی واقعاً پیچیده و گاه‌به‌گاه را در صورت اجازه اتصال برای فضای ابری رزرو می‌کند.
آنچه هنگام انتخاب SoC مجهز به هوش مصنوعی لبه باید ارزیابی شود
برای یک تیم محصول که گزینه‌ها را ارزیابی می‌کند، چند سوال مشخصات بازاریابی را کنار می‌زند و به جزئیاتی می‌رسد که واقعاً اهمیت دارند:
- تراشه چه تأخیر استنتاج و میزان مصرف انرژی واقعی را روی مدلی با اندازه مشابه آنچه محصول شما واقعاً نیاز دارد به دست می‌آورد — نه فقط ارقام تیتروار TOPS (تریلیون عملیات در ثانیه)؟
- آیا زنجیره ابزاری SoC از فرمت‌های مدل و چارچوب‌های آموزشی که تیم شما از قبل استفاده می‌کند پشتیبانی می‌کند، یا نیاز به آموزش مجدد مدل‌ها به طور خاص برای یک فرمت انحصاری دارد؟
- تراشه چگونه مصالحه بین بار پردازش هوش مصنوعی و اتصال بی‌سیم همزمان را مدیریت می‌کند — آیا استنتاج به طور معناداری روی عملکرد رادیو تأثیر می‌گذارد یا برعکس؟
نگاه به آینده
همان‌طور که سیلیکون هوش مصنوعی لبه در کارایی به بهبود خود ادامه می‌دهد، طیف وظایفی که اجرای محلی آن‌ها به جای فضای ابری کاربردی است، به گسترش خود ادامه خواهد داد. برای تیم‌های محصولی که نسل بعدی دستگاه‌های متصل را می‌سازند، سوال معماری از «آیا این دستگاه باید هیچ قابلیت هوش مصنوعی محلی داشته باشد» به «کدام وظایف خاص متعلق به لبه هستند و کدام‌ها همچنان متعلق به فضای ابری هستند» تغییر می‌کند — یک گفتگوی طراحی ظریف‌تر و در نهایت مفیدتر.
منبع: Why Edge AI Is Moving Into the Wireless Chip Itself — IoT For All؛ نویسنده: T2M Semi
منبع: iotforall