Đạo hàm và vi phân trong tối ưu hóa học máy: Cơ sở toán học của Gradient Descent và Backpropagation
Derivatives and differentials in machine learning optimization: the mathematical foundation of gradient descent and backpropagation
Lê Bích Phượng, Nguyễn Tiến Khởi, Khoa Công nghệ thông tin, Trường Đại học Mỏ - Địa chất
Tóm tắt
Trong học máy, tối ưu hóa là quá trình quan trọng để đạt được hiệu suất cao nhất cho các mô hình. Hai công cụ then chốt trong quá trình này là đạo hàm và vi phân, giúp tính toán gradient và điều hướng tối ưu. Bài báo này tập trung vào vai trò của đạo hàm và vi phân trong Gradient Descent và Backpropagation – hai kỹ thuật quan trọng trong tối ưu hóa học máy.
Tài liệu tham khảo:
1. Goodfellow, I., Bengio, Y., & Courville, A. (2016). Deep Learning. MIT Press. 2. Bishop, C. M. (2006). Pattern Recognition and Machine Learning. Springer.
3. Rumelhart, D. E., Hinton, G. E., & Williams, R. J. (1986). Learning representations by back-propagating errors. Nature.
4. Nguyễn Trường Thanh và Mai Viết thuận (chủ biên) (2019). Giáo trình giải tích 1. Nhà xuất bản Đại học Quốc gia Hà Nội.
5. Nguyễn Đình Trí (chủ biên), Tạ Văn Đĩnh, Nguyễn Hồ Quỳnh (2019). Toán cao cấp (tập 2) Phép tính giải tích một biến số. Nhà xuất bản Giáo dục.
6. Thomas (2009). Calculus. Pearson.
7. Eric Maththes (2015). Python crash course.
8. A Modern Approach (2019). Artificial Intelligence. Pearrson.
Ý kiến bạn đọc
Bạn cần đăng nhập với tư cách là Thành viên chính thức để có thể bình luận
Tin xem nhiều
-
Trường Đại học Công nghiệp Quảng Ninh long trọng tổ chức Lễ công bố Quyết định thành lập Tạp chí điện tử Khoa học và Công nghệ
- Cán bộ, đảng viên với việc tu dưỡng đạo đức cách mạng trong điều kiện kinh tế thị trường định hướng xã hội chủ nghĩa ở Vệt Nam hiện nay
- Lồng ghép giáo dục kỹ năng sống cho học sinh THPT thông qua các chủ đề hóa học
- Áp dụng mô hình “Blended learning” trong giảng dạy tiếng Anh cho sinh viên Trường Đại học Công nghiệp Quảng Ninh
- Giải pháp nâng cao hiệu quả công tác quản lý giáo dục sinh viên năm thứ nhất tại Trường Đại học Công nghiệp Quảng Ninh
- Nghiên cứu lỗi của động cơ không đồng bộ roto lồng sóc 3 pha1,5kw 4 cực trong trường hợp sự cố thanh dẫn roto
- Xây dựng định mức năng suất và tiêu hao vật tư cho thiết bị khai thác và tuyển quặng tại tổ hợp dự án bô-xit Tân Rai và Nhân Cơ - TKV
- Phân tích và thiết kế bộ điều khiển hệ thống phân loại sản phẩm ứng dụng Logic mờ
- Áp dụng mô hình ARDL để xác định mối quan hệ giữa FDI, tiến trình công nghiệp hóa và tăng trưởng kinh tế của tỉnh Quảng Ninh
- Nghiên cứu mô hình Blended learning trong dạy học toán cao cấp tại Trường Đại học Công nghiệp Quảng Ninh
