Lola Vision Systems và cuộc đua ‘toolchain’ cho AI on-device: giảm 200 giờ thiết lập, tìm đường thoát khỏi phụ thuộc Nvidia

Mở bài
AI on-device (edge computing) đang trở thành lựa chọn chiến lược của nhiều doanh nghiệp vì giảm độ trễ, tăng tính riêng tư dữ liệu và vận hành được trong môi trường kết nối hạn chế. Nhưng “chạy được mô hình” trên một phần cứng cụ thể—đặc biệt khi rời khỏi hệ sinh thái quen thuộc như Nvidia Jetson—là câu chuyện hoàn toàn khác: tốn nhân lực, kéo dài vòng đời thử nghiệm và phát sinh rủi ro hiệu năng/điện năng.
Trong bối cảnh đó, Lola Vision Systems—một startup hạ tầng AI đặt tại Washington, D.C.—đang chọn một hướng đi tập trung vào nút thắt ít hào nhoáng nhưng có thể quyết định tốc độ thương mại hóa: lớp “compiler toolchain” giúp dịch (translate) mô hình AI thành các chỉ thị mà một con chip cụ thể có thể thực thi. Theo nhà sáng lập Tayo Adesanya, nếu làm thủ công, chỉ riêng giai đoạn thiết lập ban đầu để bắt đầu thử nghiệm mô hình AI trên phần cứng mới có thể mất khoảng 200 giờ. (TechCrunch)
Lola Vision Systems đang làm gì?
Theo TechCrunch, Lola Vision Systems được thành lập năm 2024 bởi Tayo Adesanya và tự định vị là công ty hạ tầng AI xây phần mềm và chip để chạy mô hình AI trên thiết bị. (TechCrunch)
1) “Compiler toolchain”: lớp dịch mô hình AI sang ngôn ngữ của chip
Sản phẩm cốt lõi hiện tại của Lola Vision là phần mềm “dịch” mô hình AI thành các chỉ thị (instructions) để một chip cụ thể có thể chạy; Adesanya gọi đây là “compiler toolchain”. (TechCrunch)
Cách tiếp cận cung ứng được mô tả khá trực diện:
- Khách hàng đưa code và mô hình AI (có thể là mô hình tự xây hoặc mã nguồn mở).
- Phần mềm của Lola Vision sẽ dịch cả code và mô hình sang bộ chỉ thị để chip của khách hàng có thể thực thi. (TechCrunch)
Điểm đáng chú ý: công ty nói họ đã xây lại lớp phần mềm này và đồng thời đang phát triển chip bán dẫn riêng nhằm tự động hóa nhiều hơn trong quy trình. (TechCrunch)
2) Bài toán thời gian triển khai: từ “200 giờ” đến nhiều tuần debug
Adesanya nêu quan sát rằng nhiều đội ngũ hiện bắt đầu với Nvidia Jetson hoặc chọn mô hình AI mã nguồn mở, nhưng các lựa chọn đó có thể “thường hỏng hoặc chạy kém” ngay từ đầu, khiến đội ngũ mất nhiều ngày/tuần để chạy được và thêm nhiều tuần để debug cho đến khi “usable”. (TechCrunch)
Ngay cả khi mô hình đã chạy, ông cho rằng có hai rủi ro phổ biến:
- Điện năng có thể vượt ngân sách edge computing.
- Hoặc bo mạch không đủ compute cho các mô hình cỡ vừa đến lớn. Hệ quả là mô hình nhận dạng có thể trễ mục tiêu hoặc đọc sai vật thể. (TechCrunch)
Vì sao lớp “toolchain” lại quan trọng trong cuộc đua AI edge?
1) Edge AI không chỉ là chọn mô hình, mà là chọn “đường chạy” đến phần cứng
TechCrunch giải thích edge computing là chạy AI trực tiếp trên thiết bị (như camera hoặc drone) thay vì ở data center từ xa; còn recognition models là hệ thống AI nhận diện vật thể; Nvidia Jetson là dòng module tính toán nhỏ gọn để chạy AI trên thiết bị. (TechCrunch)
Trong thực tế triển khai, “đường chạy” từ mô hình → tối ưu → biên dịch/đóng gói → chạy ổn định trên chip thường là nơi chi phí chìm phát sinh. Nếu một toolchain có thể chuẩn hóa các bước này, doanh nghiệp có thể rút ngắn chu kỳ:
- từ ý tưởng → prototype,
- từ prototype → kiểm thử,
- từ kiểm thử → sản phẩm.
TechCrunch dẫn lời Adesanya rằng, ngoài tốc độ, thiết lập nhanh hơn giúp các công ty hàng không vũ trụ và các doanh nghiệp “mission-critical” có thời gian để chạy mô hình chính xác hơn trên dữ liệu của họ với mức tiêu thụ điện thấp hơn. (TechCrunch)
2) “Thay thế Nvidia” không nhất thiết bắt đầu từ chip
Lola Vision được mô tả là một trong nhiều startup muốn cung cấp lựa chọn thay thế cho công nghệ của Nvidia trong việc chạy AI trên thiết bị. (TechCrunch)
Điểm đáng bàn là: thay vì chỉ lao vào cuộc chiến phần cứng ngay lập tức, Lola Vision đang nhấn mạnh vào lớp phần mềm trung gian—nơi có thể tạo lợi thế độc lập phần cứng. Công ty cũng thừa nhận chiến lược doanh thu: để có doanh thu sớm hơn, họ sẽ cấp phép phần mềm để chạy trên phần cứng hiện có, thay vì chờ chip riêng. (TechCrunch)
Với góc nhìn kinh doanh, đây là cách giảm rủi ro “time-to-revenue” trong bối cảnh phát triển chip thường kéo dài và tốn kém.
Tín hiệu thị trường và trạng thái huy động vốn
TechCrunch cho biết Lola Vision hiện có:
- Một tá khách hàng doanh nghiệp đã ký thư bày tỏ quan tâm mua chip của công ty khi có hàng.
- Và đã có một khách hàng ký hợp đồng. (TechCrunch)
Về hệ sinh thái phát triển bán dẫn, công ty hợp tác với SCALE (chương trình phát triển lực lượng lao động vi điện tử) để làm việc với nhiều phòng lab bán dẫn hơn. (TechCrunch)
Về vốn, Adesanya nói công ty đã huy động tổng cộng “hơn 1 triệu USD” tính đến thời điểm bài viết. (TechCrunch)
Ngoài ra, Lola Vision được chọn vào TechCrunch Startup Battlefield 200 và tham dự TechCrunch Disrupt tại San Francisco (Oct 13–15). Adesanya nói ông mong muốn tạo kết nối và kỳ vọng nhà đầu tư “viết séc”. (TechCrunch)
Hàm ý thực tiễn cho doanh nghiệp, nhà đầu tư và đội ngũ kỹ thuật
1) Doanh nghiệp triển khai AI on-device: ưu tiên công cụ rút ngắn thời gian port
Nếu tổ chức của bạn thường xuyên gặp bài toán “mô hình chạy tốt trên môi trường A nhưng sang phần cứng B thì vỡ”, các tuyên bố của Lola Vision nhấn vào đúng chi phí cơ hội: thiết lập thủ công có thể mất ~200 giờ để bắt đầu test, rồi thêm nhiều tuần để debug cho usable. (TechCrunch)
Hàm ý là, khi đánh giá giải pháp edge AI, nên xếp toolchain/biên dịch/khả năng tương thích ngang tầm với việc so sánh thông số phần cứng. Trong nhiều dự án, tiết kiệm vài tuần kỹ sư có thể quan trọng không kém tiết kiệm vài watt.
2) Ngành mission-critical (hàng không vũ trụ, vận hành trọng yếu): “độ tin cậy” gắn với điện năng và độ chính xác
Lập luận của Adesanya cho thấy nhóm khách hàng mục tiêu có thể là các ngành mà sai lệch nhận dạng hoặc độ trễ là rủi ro vận hành. Ông nhấn mạnh rằng thiết lập nhanh hơn giúp có thời gian để chạy mô hình chính xác hơn trên dữ liệu riêng và tiêu thụ điện thấp hơn. (TechCrunch)
Trong mua sắm công nghệ, điều này gợi ý tiêu chí đánh giá không chỉ là “chạy được”, mà là:
- chạy ổn định,
- đúng yêu cầu điện năng,
- và có quy trình triển khai lặp lại được.
3) Nhà đầu tư: theo dõi chiến lược “phần mềm trước, chip sau” và chất lượng lực kéo
Các tín hiệu lực kéo mà TechCrunch nêu gồm 1 khách hàng đã ký và khoảng một tá thư quan tâm cho chip. (TechCrunch) Đây là tín hiệu ban đầu, nhưng chưa tương đương doanh thu lớn hay hợp đồng dài hạn.
Điểm đáng theo dõi tiếp theo (dựa trên những gì bài báo đề cập) là hiệu quả của hướng license phần mềm trên phần cứng hiện có để tạo doanh thu sớm. (TechCrunch) Nếu mô hình kinh doanh phần mềm đứng vững, nó có thể tài trợ ngược cho lộ trình chip—vốn rủi ro hơn.
Hạn chế và những điều cần kiểm chứng thêm
Bài TechCrunch cung cấp bức tranh ban đầu nhưng còn nhiều khoảng trống quan trọng cho quyết định mua hàng/đầu tư:
- Nhiều nhận định về việc giải pháp hiện tại “thường hỏng hoặc chạy kém”, thời gian debug “nhiều tuần”, hay lợi ích về điện năng/độ chính xác là phát biểu của CEO, bài không kèm dữ liệu đo kiểm độc lập. (TechCrunch)
- Chưa có chi tiết về kiến trúc chip, thời điểm thương mại hóa, hay các chỉ số hiệu năng (latency, throughput, watt) để so sánh với Nvidia hoặc nền tảng khác. (TechCrunch)
- “A dozen letters of interest” không đồng nghĩa đơn hàng chắc chắn; bài không nêu giá trị hợp đồng, tỷ lệ chuyển đổi, cũng như danh tính khách hàng đã ký. (TechCrunch)
- Mô hình định giá/điều khoản license phần mềm chưa được công bố trong bài, trong khi đây lại là chìa khóa để đánh giá biên lợi nhuận và tốc độ mở rộng. (TechCrunch)
Nguồn tham khảo
- TechCrunch (2026-10-05): Lola Vision Systems is trying to make it easier to run AI models on chips — https://techcrunch.com/2026/10/05/lola-vision-systems-is-trying-to-make-it-easier-to-run-ai-models-on-chips/
