Sự phát triển của học máy, mà cụ thể là các bộ xử lý AI để điều khiển các thiết bị này, đã rất lớn. MediaTek đã phát triển riêng các bộ xử lý trí tuệ nhân tạo của mình – APU – trong khoảng bảy năm, và chúng đã trở nên quan trọng như các CPU và GPU trong các vi mạch tích hợp của chúng tôi. Năm nay sẽ chứng kiến sự ra mắt kiến trúc AI thế hệ thứ 7, và sẽ sớm trở thành một phần trong các sản phẩm flagship mới nhất của chúng tôi.

Để tối ưu hoá quy trình phát triển sản phẩm của các đối tác, chúng tôi hỗ trợ toàn diện các thế hệ APU của mình bằng NeuroPilot® SDK, cho phép các nhà phát triển khai thác toàn bộ tiềm năng trong thiết bị của họ. Trong khi đó, các nhóm nghiên cứu của chúng tôi đang tích cực nghiên cứu và công bố các bài báo khoa học, tạp chí và các báo cáo chuyên sâu về những gì mà AI thế hệ tiếp theo có thể làm được.

Chúng tôi đã đạt đến con số hơn 2 tỷ thiết bị kết nối mỗi năm được trang bị chip MediaTek, nhiều trong số đó đã được tích hợp APU, giúp chúng tôi trở thành một trong những nhà cung cấp AI tại biên hàng đầu thế giới. MediaTek cũng cung cấp dịch vụ ASIC Doanh nghiệp chuyên biệt dành cho các công ty muốn xây dựng các giải pháp Trung tâm Dữ liệu AI tuỳ chỉnh với hiệu suất cực cao. Kiến trúc linh hoạt của chúng tôi cho Bộ tăng tốc Học sâu (DLA) và công nghệ SerDes tiên tiến cho mạng lưới đã đặt chúng tôi vào một vị thế độc quyền khi cung cấp tất cả các công nghệ chỉ trong một nền tảng nhỏ gọn duy nhất.

Sự phát triển của các ứng dụng AI tại biên

Kể từ năm 2014, chúng tôi đã đi đầu về các ứng dụng AI tại biên với trợ lý giọng nói và loa thông minh. Điều này đã phát triển thông qua thị giác máy tính và xử lý hình ảnh trong chụp ảnh, sau đó là quay video, định dạng phương tiện, và chơi game, vào thực tế ảo và thực tế tăng cường, và hiện tại là vào AI tạo sinh.

AI truyền thống – AI áp dụng vào nội dung có sẵn – có thể thực hiện trên thiết bị có hiệu suất tính toán lên đến hàng chục TOPS và thường bị giới hạn bởi khả năng của bộ xử lý AI, trong khi AI tạo sinh đòi hỏi hiệu suất cao hơn từ 10 đến 100 lần và hiện tại đang bị hạn chế hơn bởi khả năng lưu trữ và hiệu suất hiện có.

Tuy nhiên, việc giữ các dịch vụ AI tạo sinh gắn với đám mây là quá tốn kém và thường hạn chế phạm vi ứng dụng của nó. Việc đưa công nghệ mới đến tay người dùng và các doanh nghiệp đã mang lại lợi ích to lớn cho xã hội và nền kinh tế toàn cầu. Hiện đang có những nỗ lực để tối ưu hoá các mô hình ngôn ngữ lớn (LLM) cho các tác vụ và thiết bị cụ thể mà chúng ta sử dụng hằng ngày. Tốc độ tiến triển của quá trình này dự kiến sẽ không còn xa trong tương lai.

Sự xuất sắc tại biên

AI tại biên mang lại các lợi ích cho người dùng bởi một số lý do chính sau:

1. Tiêu thụ điện năng tổng thể và truyền dữ liệu hiệu quả hơn vì dữ liệu được thu thập trên các thiết bị được thiết kế chuyên dụng sẽ loại bỏ những gì không cần thiết ngay từ lần thu thập đầu tiên. Nếu cần thiết, những thiết bị này có thể lưu trữ dữ liệu đã được xử lý trước sẵn sàng cho các giai đoạn sử dụng mạng thấp hoặc chi phí năng lượng thấp trước khi truyền dữ liệu đến trung tâm điều khiển trung tâm.

2. Đối với các thiết bị Giao diện Người-Máy (HMI) nói riêng, sự giảm thiểu độ trễ sẽ cải thiện trải nghiệm người dùng vì mỗi thiết bị không phải chịu độ trễ mạng khi mỗi tương tác được xử lý bởi các dịch vụ Đám mây.

3. Với dữ liệu được giữ ngay trên thiết bị, các thiết bị biên tự nhiên có tính bảo mật cao hơn và có thể dễ dàng đáp ứng các yêu cầu về quyền riêng tư dữ liệu.

4. Mỗi thiết bị thông minh có thể nhận biết môi trường mà nó hoạt động trong đó theo thời gian thực, từ đó tăng cường tính cá nhân hoá cục bộ.

Trí tuệ nhân tạo tại Trung tâm dữ liệu sẽ tiếp tục dẫn đầu

Rõ ràng rằng AI trong Trung tâm Dữ liệu, có thể truy cập thông qua các dịch vụ Đám mây, sẽ cung cấp hiệu suất mạnh mẽ nhất cho các ứng dụng hàng đầu như AI tạo sinh. Việc tạo ra một sự cân bằng giữa Đám mây và thiết bị biên để tận dụng sức mạnh riêng của cả hai sẽ mang lại trải nghiệm người dùng tốt nhất.

Tăng cường Gen-AI trong Trung tâm Dữ liệu với Công nghệ AI và Networking ASICs hiệu suất cực cao

MediaTek đã sẵn sàng tạo ra các mô đun AI cấp Trung tâm Dữ liệu để phục vụ cho kỷ nguyên tạo sinh. Các dịch vụ ASIC dành cho doanh nghiệp của chúng tôi cung cấp những lợi thế từ tập đối tượng sở hữu trí tuệ (IP) sâu rộng của chúng tôi, bao gồm bộ xử lý Tăng tốc Học sâu (DLA) hàng đầu trong ngành và các công nghệ SerDes, chuyên môn thiết kế vi mạch cấp thế giới về các công nghệ xử lý tiên tiến và quy trình đóng gói hàng đầu các vi mạch tích hợp (chip-to-chip) 2.5D/3D với nhau, cùng với quy mô hoạt động, chuỗi cung ứng được đảm bảo và phạm vi tiếp cận toàn cầu của chúng tôi, tất cả đều mang lại lợi ích cho các nhà cung cấp AI siêu quy mô và các OEM cấp 1 khi họ tìm cách tạo ra AI thế hệ tiếp theo dưới dạng dịch vụ.

Đối tác tốt nhất cho Hybrid AI – Biên và Đám mây

MediaTek có vị trí độc quyền để thúc đẩy và hỗ trợ việc áp dụng các công nghệ và ứng dụng AI, dù được triển khai trên đám mây, ngay tại biên - trong các thiết bị, hay dưới một sự kết hợp lai, tận dụng cả đám mây lẫn biên cùng lúc.