Sự khác biệt giữa mạng Hopfield và máy Boltzmann của Geoffrey Hinton

Lê Quang Văn giải thích và thực hiện phần kỹ thuật số.

Hãy tưởng tượng hai đội robot khác nhau được thiết kế để giải các câu đố. Cả hai đội đều thông minh và có thể học hỏi từ kinh nghiệm của họ, nhưng họ giải quyết vấn đề theo những cách độc đáo. Trong thế giới trí tuệ nhân tạo (AI), các nhóm này có thể được coi là Hopfield Network (Mạng Hopfield) và Boltzmann Machine (Máy Boltzmann). Cả hai đều là loại mạng thần kinh nhân tạo, là hệ thống máy tính lấy cảm hứng từ bộ não con người, nhưng chúng có những đặc điểm và công dụng riêng biệt. Hãy cùng khám phá xem chúng khác nhau như thế nào

Hopfield Networks: Những công cụ lưu giữ ký ức

**1. Mục đích và cách sử dụng:

• Bộ nhớ và nhớ lại: Mạng Hopfield chủ yếu được sử dụng cho bộ nhớ liên kết. Điều này có nghĩa là chúng có thể lưu trữ và nhớ lại các mẫu hoặc ký ức. Hãy tưởng tượng bạn có thể nhớ một hình ảnh hoàn chỉnh ngay cả khi bạn chỉ nhìn thấy một phần của nó — đó là những gì Hopfield Networks vượt trội.

• Giải quyết các vấn đề tối ưu hóa: Chúng cũng có thể giúp tìm ra giải pháp tốt nhất trong số nhiều khả năng, như tìm tuyến đường ngắn nhất trên bản đồ.

**2. Cấu trúc:

• Kết nối đầy đủ: Trong Mạng Hopfield, mọi tế bào thần kinh (nghĩ về tế bào thần kinh như các đơn vị xử lý nhỏ) được kết nối với mọi tế bào thần kinh khác. Điều này tạo ra một mạng lưới nơi thông tin có thể trao đổi tự do giữa tất cả các phần.

• Trạng thái nhị phân: Mỗi tế bào thần kinh trong mạng có thể ở một trong hai trạng thái: bật (1) hoặc tắt (0).

**3. Cách thức hoạt động:

• Lưu trữ các mẫu: Khi bạn đào tạo một Mạng Hopfield, bạn trình bày nó với các mẫu bạn muốn nó nhớ. Mạng điều chỉnh các kết nối giữa các tế bào thần kinh để lưu trữ các mẫu này.

• Nhớ lại các mẫu: Khi được cung cấp một phiên bản chỉ có một phần hoặc có chi tiết bị nhiễu của một mẫu được lưu trữ, mạng sẽ cập nhật các tế bào thần kinh của nó để hội tụ đến mẫu được lưu trữ gần nhất. Nó giống như hoàn thành một bức tranh vẽ một nửa bằng cách nhận ra những đường không hoàn chỉnh.

**4. Giảm thiểu năng lượng:

• Trạng thái ổn định: Mạng hoạt động bằng cách giảm thiểu giá trị "năng lượng". Mỗi mẫu có thể có một năng lượng liên quan và mạng tìm mẫu có năng lượng thấp nhất, tương ứng với bộ nhớ ổn định.

Máy Boltzmann: Những công cụ thám hiểm mẫu

**1. Mục đích và cách sử dụng:

• Học các mẫu phức tạp: Máy Boltzmann được sử dụng để học và tạo các mẫu dữ liệu phức tạp. Họ có thể tạo các mẫu dữ liệu mới giống với dữ liệu mà họ đã được đào tạo, làm cho chúng hữu ích cho các tác vụ như tạo hình ảnh và giọng nói.

• Nền tảng học tập sâu: Geoffrey Hinton đã phát triển Máy Boltzmann bị hạn chế (RBM), một phiên bản đơn giản hóa của Máy Boltzmann, trở thành khối xây dựng cho các mô hình học sâu như Mạng niềm tin sâu sắc.

**2. Cấu trúc:

• Hai lớp: Một máy Boltzmann điển hình có hai lớp tế bào thần kinh:

o Lớp hiển thị: Lớp này đại diện cho dữ liệu đầu vào (ví dụ: pixel của hình ảnh).

o Lớp ẩn: Lớp này nắm bắt các tính năng hoặc mẫu cơ bản trong dữ liệu.

• Kết nối bị hạn chế (trong RBM): Geoffrey Hinton đã giới thiệu Máy Boltzmann bị hạn chế, trong đó các kết nối chỉ tồn tại giữa các lớp nhìn thấy và ẩn, không phải trong một lớp. Hạn chế này làm cho mạng dễ đào tạo hơn.

**3. Cách thức hoạt động:

• Mô hình dựa trên năng lượng: Giống như Mạng Hopfield, máy Boltzmann sử dụng phương pháp tiếp cận dựa trên năng lượng. Mỗi cấu hình của mạng có một năng lượng liên quan và máy học cách gán năng lượng thấp hơn cho các mẫu dữ liệu có thể xảy ra hơn.

• Học xác suất: Máy Boltzmann sử dụng xác suất để xác định trạng thái của từng tế bào thần kinh, cho phép chúng khám phá và tìm hiểu các mẫu phức tạp trong dữ liệu.

**4. Đào tạo:

• Quá trình Stochastic: Đào tạo liên quan đến việc sử dụng các kỹ thuật như Lấy mẫu Gibbs để cập nhật ngẫu nhiên các trạng thái tế bào thần kinh dựa trên xác suất, dần dần điều chỉnh trọng số để giảm thiểu năng lượng cho dữ liệu đào tạo.

• Phân kỳ tương phản: Geoffrey

Episode 3033 - October 13 - Sự khác biệt giữa mạng Hopfield và máy Boltzmann - Vina Technology at AI time

Vina Technology at AI time - Công nghệ Việt Nam thời AI

Episode 3033 - October 13 - Sự khác biệt giữa mạng Hopfield và máy Boltzmann - Vina Technology at AI time