Tối Ưu Hóa Siêu Tham Số: 10 Thư Viện Python Hàng Đầu

Liu

toi-uu-hoa-sieu-tham-so-10-thu-vien-hang-dau

Làm quen với một số thư viện Python phổ biến nhất hiện có để tối ưu hóa siêu tham số.Tối ưu hóa siêu tham số đóng một vai trò quan trọng trong việc xác định hiệu suất của mô hình máy học. Họ là một trong 3 thành phần của đào tạo.

3 THÀNH PHẦN CỦA MÔ HÌNH

Dữ liệu đào tạo

Dữ liệu đào tạo là thứ mà thuật toán tận dụng (hướng dẫn xây dựng mô hình) để xác định các mẫu.

Thông số

Thuật toán "học" bằng cách điều chỉnh các tham số, chẳng hạn như trọng số, dựa trên dữ liệu huấn luyện để đưa ra dự đoán chính xác, dự đoán này được lưu dưới dạng một phần của mô hình cuối cùng.

Siêu tham số

Siêu tham số là các biến điều chỉnh quá trình đào tạo và không đổi trong quá trình đào tạo.

CÁC LOẠI TÌM KIẾM KHÁC NHAU

Tìm kiếm lưới

Các mô hình đào tạo với mọi sự kết hợp có thể có của siêu tham số được cung cấp đánh giá một quá trình tốn thời gian.

Tìm kiếm ngẫu nhiên

Huấn luyện các mô hình với các giá trị siêu tham số lấy mẫu ngẫu nhiên từ các bản phân phối đã xác định, tìm kiếm hiệu quả hơn.

Có lưới tìm kiếm

Huấn luyện các mô hình với tất cả các giá trị, sau đó liên tục "giảm một nửa" không gian tìm kiếm bằng cách chỉ xem xét các giá trị tham số hoạt động tốt nhất trong vòng trước.

Tìm kiếm Bayes

Bắt đầu với dự đoán ban đầu về các giá trị, sử dụng hiệu suất của mô hình đối với các giá trị. Nó giống như cách một thám tử có thể bắt đầu với một danh sách các nghi phạm, sau đó sử dụng thông tin mới để thu hẹp danh sách.

THƯ VIỆN PYTHON ĐỂ TỐI ƯU HÓA THAM SỐ

Tôi đã tìm thấy 10 thư viện Python này để tối ưu hóa siêu tham số.

Optuna

Bạn có thể điều chỉnh công cụ ước tính của hầu hết mọi gói/khung ML, DL, bao gồm Sklearn, PyTorch, TensorFlow, Keras, XGBoost, LightGBM, CatBoost, ... bằng Bảng điều khiển web thời gian thực được gọi là bảng điều khiển optuna.

Hyperopt

Tối ưu hóa bằng cách sử dụng tối ưu hóa Bayesian, bao gồm các kích thước có điều kiện.

Scikit - Learn

Các tìm kiếm khác nhau như GridSearchCV hoặc HalvingGridSearchCV.

Auto - Sklearn

AutoML và sự thay thế tùy chọn cho công cụ ước tính scikit - learning.

Hyperactive

Rất dễ học nhưng cực kỳ linh hoạt cung cấp khả năng tối ưu hóa thông minh.

Optunity

Cung cấp các cách tiếp cận khác biệt với rất nhiều chức năng điểm số.

Siêu tham số Hunter

Tự động lưu/học hỏi từ Thử nghiệm để tối ưu hóa liên tục

MLJAR

AutoML tạo báo cáo Markdown từ đường dẫn ML

Keras Tuner

Với các thuật toán Bayesian Optimization, Hyperband và Random Search tích hợp sẵn

Talos

Tối ưu hóa siêu tham số cho TensorFlow, Keras và PyTorch.

Tôi đã quên thư viện nào chưa?

Copyright Disclaimer:

This site does not store any files on its server. We only index and link to content provided by other sites. Please contact the content providers to delete copyright contents if any and email us, we'll remove relevant links or contents immediately.

Tuyên bố miễn trừ bản quyền:

Trang web này không lưu trữ bất kỳ tệp nào trên máy chủ của nó. Chúng tôi chỉ lập chỉ mục và liên kết đến nội dung được cung cấp bởi các trang web khác. Vui lòng liên hệ với các nhà cung cấp nội dung để xóa nội dung bản quyền nếu có và gửi email cho chúng tôi, chúng tôi sẽ xóa các liên kết hoặc nội dung có liên quan ngay lập tức.