Đừng vật lộn với giao diện người dùng mô hình của LM Studio nữa! Hãy chuyển sang Ollama!

Nhiều người đã chạy các LLM cục bộ khá lâu rồi, và LM Studio là một trong những ứng dụng tốt nhất để tận hưởng lợi ích của việc sử dụng LLM cục bộ trên máy tính của bạn. Nó được trau chuốt, có trình duyệt mô hình đẹp mắt, và việc tải xuống mô hình từ Hugging Face gần như không tốn công sức - cho đến khi nó gặp trục trặc.

Việc tải xuống mô hình đôi khi có thể bị kẹt, và quy trình khó chịu là phải tự tay gỡ bỏ một mô hình, cấu hình lại các lớp GPU, và load lại một mô hình khác không phải là một quá trình dễ chịu. Nhưng LM Studio không phải là ứng dụng LLM cục bộ duy nhất dễ sử dụng, và việc thiết lập Ollama có thể giúp bạn tiết kiệm được nhiều giờ quý giá.

Cách đơn giản nhất để chạy AI cục bộ

Ollama là gì và tại sao nó lại phổ biến đến vậy?

Ollama là một runtime mã nguồn mở, nhẹ để chạy các mô hình LLLM cục bộ. Trong khi LM Studio cung cấp cho bạn giao diện người dùng đồ họa (GUI) đầy đủ với khả năng duyệt mô hình, các tab trò chuyện và điều khiển server, Ollama lại đơn giản hóa mọi thứ thành một quy trình làm việc dòng lệnh gọn gàng và một API HTTP cục bộ. Nó chạy một server nền ngay khi bạn cài đặt và mọi thứ khác, từ việc tải xuống các mô hình, chuyển đổi giữa chúng và truy vấn chúng, đều diễn ra thông qua terminal hoặc thông qua API đó. Cũng có một giao diện người dùng tối giản nếu đó là điều bạn thích.

Nếu bạn đã từng sử dụng Docker trước đây, mô hình này gần như giống hệt nhau. Bạn tải xuống một image - hoặc trong trường hợp này là một mô hình - và chạy nó. Lệnh Ollama pull [tên mô hình] sẽ tải mô hình về, ollama run [tên mô hình] sẽ chạy nó và đưa bạn ngay vào một cuộc trò chuyện tương tác. Có vẻ như hơi hạn chế, nhưng toàn bộ quá trình từ khi cài đặt mới đến khi trò chuyện với một mô hình 7 tỷ chỉ mất chưa đến 5 phút trên một kết nối tốt.

Một quy trình thiết lập bỏ qua hầu hết các bước phức tạp thông thường

Cài đặt Ollama chỉ cần một lệnh curl trên Linux. Trên Windows, bạn có thể sử dụng trình cài đặt tiêu chuẩn từ trang web của Ollama. Sau khi cài đặt hoàn tất, Ollama sẽ tự động khởi chạy một service nền và bạn đã sẵn sàng để tải xuống các mô hình.

Thư viện mô hình trên trang web của Ollama bao gồm mọi thứ bạn mong đợi. Llama 3, Mistral, Gemma 3, Phi-4, DeepSeek, Qwen và một danh sách ngày càng tăng các mô hình khác. Bạn có thể sao chép lệnh chạy trực tiếp từ trang của một mô hình, dán vào terminal của mình và Ollama sẽ xử lý việc tải xuống và khởi chạy chỉ trong một bước. Không cần phải duyệt qua trình duyệt mô hình, không cần hàng đợi tải xuống riêng biệt, không cần chờ ứng dụng đăng ký file vào danh mục nội bộ của nó.

Việc chuyển đổi mô hình cũng dễ dàng không kém. Bạn không cần phải thực hiện thao tác gỡ bỏ thủ công và không cần phải điều chỉnh các thanh trượt quản lý bộ nhớ. Bạn chỉ cần chạy một tên mô hình khác, Ollama sẽ xử lý phần còn lại trong nền.

API mới là tính năng nổi bật thực sự

Tại sao các nhà phát triển xây dựng toàn bộ quy trình làm việc trên Ollama?

Phần quan trọng nhất là API. Ollama cung cấp endpoint Chat Completions tương thích với OpenAI tại http://localhost:11434/v1. Điều đó có nghĩa là bất kỳ công cụ hoặc script nào đã được xây dựng cho API OpenAI đều hoạt động ngay lập tức với các mô hình cục bộ của bạn. Bạn chỉ cần trỏ URL đến localhost, đặt API key thành một chuỗi giả (vì nó không được xác thực cục bộ) và bạn đã hoàn tất.

Điều này rất quan trọng nếu bạn đang xây dựng bất cứ thứ gì. Có một số script Python gọi API OpenAI để thử nghiệm. Việc chuyển sang sử dụng Ollama chỉ mất khoảng 30 giây chỉnh sửa như đã đề cập ở trên. Chỉ cần thay đổi URL cơ sở và tên mô hình, không cần phải động đến bất kỳ phần nào khác trong code. So với đó, LM Studio có chế độ server cục bộ với khả năng tương thích tương tự, nhưng việc cấu hình đúng cách lại thêm nhiều bước và khá nhiều thao tác điều hướng giao diện người dùng mà Ollama không yêu cầu.

Việc chuyển đổi không tốn kém gì và giúp bạn tiết kiệm được hàng giờ mà bạn có thể dễ dàng dành để vật lộn với hành vi load của LM Studio. Đối với bất kỳ ai chủ yếu chạy các mô hình cục bộ để cung cấp năng lượng cho các script, công cụ hoặc tích hợp - thay vì trò chuyện thông qua giao diện người dùng đồ họa tích hợp sẵn - Ollama là con đường nhanh chóng, gọn nhẹ và ít gây khó chịu hơn. Giao diện dòng lệnh không hề đáng sợ chút nào một khi bạn nhận ra toàn bộ quy trình làm việc về cơ bản chỉ gói gọn trong hai lệnh. Mọi thứ khác sẽ diễn ra một cách tự nhiên từ đó.