نصب هوش مصنوعی آفلاین روی سیستم شخصی بدون نیاز به اینترنت

هوش مصنوعی آفلاین روی سیستم شخصی؛ راهنمای عملی در شرایط قطع اینترنت بین‌الملل

فهرست مطالب

کارگروه راهکارهای دیجیتال

مقدمه

تا قبل از شروع جنگ و دسترسی به اینترنت بین‌الملل یکی از ابزارهایی که به احتمال زیاد روزانه از آن استفاده می‌کردیم، هوش مصنوعی بود. پس از اعمال محدودیت‌های اینترنت بین‌الملل دسترسی به سایت‌های هوش مصنوعی خارجی قطع شد. ابزارهای هوش مصنوعی داخلی هم تا حدی توانستند پاسخ‌گوی نیازهای اولیه باشند اما کندی اتصال، کیفیت حداقلی و در برخی موارد هزینه‌های بالا موجب شده تا نتوانند به طور قطع به عنوان گزینه مناسبی برای جایگزین نمونه‌های خارجی عمل کنند. تیم راهکارهای دیجیتال اندیشکده رستا، سندی کوتاه، ساده و روان برای نصب و راه‌اندازی هوش مصنوعی آفلاین دو نسخه قابل نصب روی دستگاه‌های معمولی (حداقل ۸ گیگابایت رم) آماده کرده است که برای نصب آن‌ها نیاز به اینترنت بین‌الملل نیست و با استفاده از سایت‌های داخلی می‌توانید به نصب و راه‌اندازی این برنامه‌ها بپردازید.

بخش اول / ابزار  Ollama

این ابزار یکی از کاربردی‌ترین ابزارهای فعال‌سازی هوش مصنوعی آفلاین روی سیستم‌های شخصی است. برای دانلود این ابزار می‌توانید به سایت‌های دانلود ایرانی مانند سافت ۹۸ به آدرس زیر مراجعه کنید.

راه‌حل نصب:

۱. ابتدا نسخه مناسب سیستم عامل خود (ویندوز یا مکینتاش) را دانلود کنید.

۲. پس از دانلود مراحل نصب را طبق دستورالعمل بیان شده در سایت انجام دهید.

۳. در سایت سافت ۹۸ سه مدل Deep Seek، Gemma و Qwen برای دانلود موجود هستند. (توجه داشته باشید که برای دانلود هر یک از این مدل‌ها باید سه فایل مربوطه به هر مدل را دانلود کنید)

۴. بعد از دانلود موفق هر سه فایل آن‌ها را درون یک پوشه کنار هم قرار دهید.

۵. ابزار WinRAR را در صورتی که روی سیستم عامل‌تان وجود ندارد از آدرس زیر دانلود کرده و نصب کنید.

۶. روی اولین فایل دانلود شده از مدل کلیک کرده و آن را از حالت فشرده خارج کنید. (با توجه به این که هر سه فایل کنار هم هستند به صورت خودکار برنامه WinRAR هر سه فایل را به صورت یک فایل نهایی از حالت فشرده خارج می‌کند.)

۷. برنامه Ollama را اجرا کنید.

۸. در بخش Load Model از داخل فولدری که مدل را از حالت فشرده خارج کرده‌اید فایل مدل مد نظر خود را انتخاب کرده و آن را لود کنید.

۹. حالا می‌توانید به راحتی از مدل مد نظر خود استفاده کنید. (سوال کنید و منتظر تولید و ارائه پاسخ باشید)

۱۰. توجه داشته باشید که بسته به مشخصات فنی سیستم شما ممکن است پاسخ‌ها خیلی سریع و بدون وقفه و یا با کمی وقفه تولید و ارائه شوند.

آموزش فعال‌سازی مدل به صورت دستی:

۱. فایل دانلود شده را با استفاده از نرم افزار WinRAR از حالت فشرده خارج کنید.

۲. به منوی Setting رفته تا مسیر مدل‌ها که در قسمت Model location نمایش داده می‌شود را مشاهده کنید و می‌توانید مسیر را به پوشه دلخواه خود تغییر دهید.

۳. پوشه‌های blobs و manifests را در مسیر زیر کپی کنید.( آدرس زیر را کپی و در آدرس بار پوشه دلخواه Paste کنید و Enter بزنید )

%HOMEPATH%\.ollama\models

۴. نرم افزار را اجرا کنید و از لیست مدل‌های هوش مصنوعی، مدلی که دانلود و نصب کردید را انتخاب کنید.

بخش دوم / ابزار LM Studio

این ابزار یکی دیگر از ابزارهای فعال‌سازی هوش مصنوعی آفلاین روی سیستم‌های شخصی است. برای دانلود این ابزار می‌توانید به سایت‌های دانلود ایرانی مانند سافت ۹۸ به آدرس زیر مراجعه کنید.

مراحل نصب:

۱. ابتدا نسخه مناسب سیستم عامل خود (ویندوز، لینوکس یا مکینتاش) را دانلود کنید.

۲. پس از دانلود مراحل نصب را طبق دستورالعمل بیان شده در سایت انجام دهید.

۳. در سایت سافت ۹۸ سه مدل Deep Seek، Gemma و Qwen برای دانلود موجود هستند. (توجه داشته باشید که برای دانلود هر یک از این مدل‌ها باید سه فایل مربوطه به هر مدل را دانلود کنید)

۴. بعد از دانلود موفق هر سه فایل آن‌ها را درون یک پوشه کنار هم قرار دهید.

۵. ابزار WinRAR را در صورتی که روی سیستم عامل‌تان وجود ندارد از آدرس زیر دانلود کرده و نصب کنید.

۶. روی اولین فایل دانلود شده از مدل کلیک کرده و آن را از حالت فشرده خارج کنید .با توجه به این که هر سه فایل کنار هم هستند به صورت خودکار برنامه WinRAR هر سه فایل را به صورت یک فایل نهایی از حالت فشرده خارج می‌کند

۷. برنامه Ollama را اجرا کنید.

۸. در بخش Load Model از داخل فولدری که مدل را از حالت فشرده خارج کرده‌اید فایل مدل مد نظر خود را انتخاب کرده و آن را لود کنید.

۹. حالا می‌توانید به راحتی از مدل مد نظر خود استفاده کنید. (سوال کنید و منتظر تولید و ارائه پاسخ باشید)

۱۰. توجه داشته باشید که بسته به مشخصات فنی سیستم شما ممکن است پاسخ‌ها خیلی سریع و بدون وقفه و یا با کمی وقفه تولید و ارائه شوند.

آموزش فعال‌سازی مدل به صورت دستی:

۱. نرم افزار را نصب کنید.

۲. به مسیر زیر رفته و پوشه‌ای با نام lmstudio-community بسازید. ( آدرس زیر را کپی و در آدرس بار پوشه دلخواه Paste کنید و Enter بزنید )

%HOMEPATH%\.lmstudio\models\

۳. به روی فایل دانلود شده مدل، با استفاده از نرم افزار WinRAR کلیک راست کنید و Extract Here را بزنید و از حالت فشرده خارج کنید.

۴. پوشه‌ای که انتهای نام آن GGUF است را در مسیر زیر کپی کنید. ( آدرس زیر را کپی و در آدرس بار پوشه دلخواه Paste کنید و Enter بزنید )

%HOMEPATH%\.lmstudio\models\lmstudio-community\

۵. نرم افزار را اجرا کنید و در قسمتی که تایپ میکنید، دکمه Pick a model را بزنید و از لیست مدل‌های هوش مصنوعی، مدلی که دانلود کردید را انتخاب کنید.