Using wavelet transform for features extraction and machine learning algorithms to classify the facial expression by eeg signals
- Faculty of Physics and Engineering Physics, University of Science, Ho Chi Minh City, VietNam
- Vietnam National University, Ho Chi Minh City, Vietnam
Abstract
The goal was to evaluate the performance of the state-of-the-art algorithms. A secondary goal was to try to improve upon the result of a method that was used in a study similar to the one used in this work. This paper presented the building of multi-state datasets relating to eye behaviors and facial expressions. Signals were recorded and stored by the connection of a channel-less mobile device. Z-score, max-min normalization techniques were used to optimize data. The cross-validation technique divided the data into training/testing segments. The features of the electrical brain signals (delta, theta, alpha and beta band) were analyzed by the Daubechies wavelet transform method. The extracted time and frequency domain features calculate total energy, detailed component energy, approximate component energy, relative energy. Three algorithms, support vector machine, k-nearest neighbor, and ensemble algorithm, were used to develop into 17 models to optimize the classification efficiency of the machine learning algorithms. Parameters of these models were surveyed and optimized to propose a best classification one for the Data-021 dataset. The Subspace ensemble model was proposed because its model efficiency was more than 87,7%.
GIỚI THIỆU
Thông tin trạng thái của não được ghi lại bằng các tín hiệu điện não đồ sinh lý (EEG), được sử dụng rộng rãi để nghiên cứu các hoạt động khác nhau của não. Một ý nghĩa điển hình trong việc hỗ trợ chẩn đoán các loại bệnh như động kinh 1, các loại bệnh liên quan đến thần kinh vận động như bệnh parkinson2, hay bệnh Alzheimer 3. Bên cạnh đó, phân loại các trạng thái của tín hiệu điện não đồ vẫn là bài toán được các nhà nghiên cứu quan tâm vì tính nền tảng và khả năng ứng dụng cao. Cụ thể như các bài toán phân loại dữ liệu ghi nhận các trạng thái cảm xúc4, nhận dạng và mô phỏng lại các trạng thái cảm xúc5, nhận dạng nét mặt dựa trên điện não đồ6, nhận dạng các hành vi khi đang lái xe bằng tín hiệu EEG7, các trạng thái tín hiệu tưởng tượng cử động tay, chân, hay điều khiển cầm, nắm vật8, 9. Phân loại tín hiệu EEG về tư duy, suy nghĩ 10, hay tính bảo mật xác thực của sóng não11. Dữ liệu về sóng não là đa dạng và không giới hạn lĩnh vực, đây vẫn là hộp đen rộng lớn đầy bí ẩn để khám phá. Một trong những phương thức hỗ trợ tối ưu để giải đáp các bài toán phân loại, dự đoán tín hiệu điện não đồ chính là các thuật toán máy học.
Gần đây, các phương pháp tổng hợp để phân loại tín hiệu EEG đã thu hút sự chú ý ngày càng tăng trong giới học thuật. Sun và cộng sự đã đánh giá hiệu suất của ba phương pháp tổng hợp phổ biến, đó là bagging, boosting và random subspace. Họ báo cáo rằng khả năng của các phương thức tổng hợp phụ thuộc vào các bộ phân loại cơ sở, đặc biệt là các cài đặt và tham số được sử dụng cho từng bộ phân loại riêng lẻ12. Dehuri và cộng sự13 đã trình bày tập hợp các phương pháp mạng thần kinh chức năng cơ sở xuyên tâm (RBFNs) để xác định các cơn co giật động kinh. Phương pháp này dựa trên phương pháp bagging và sử dụng các RBFN tiến hóa khác biệt (DE) làm bộ phân loại cơ sở. Điện não đồ được phân tách với sự biến đổi Wavelet thành các dải con khác nhau và một số thông tin thống kê được trích xuất từ các hệ số Wavelet để cung cấp làm đầu vào cho một tập hợp các DE-RBFN. Kết quả phân loại xác nhận rằng nhóm DE-RBFN được đề xuất có tiềm năng lớn hơn để xác định các rối loạn động kinh. Nhận biết cảm xúc từ các tín hiệu điện não đồ bằng cách sử dụng thuật toán phân tích dạng kinh nghiệm (Empirical Mode Decomposition, EMD) được Degirmenci và các tác giả trình bày. Họ sử dụng EMD trong giai đoạn xử lý bởi những ưu điểm như phân tích được những tín hiệu không tuyến tính và không cố định. Nhóm tác giả sử dụng một số thuật toán học máy để phân loại tín hiệu như máy véc-tơ hỗ trợ (Support Vector Machine, SVM), tích biệt thức tuyến tính (Linear Discriminant Analysis, LDA) và Naïve Bayes. Thuật toán máy véc-tơ hỗ trợ cho kết quả tốt nhất với độ chính xác, độ nhạy và độ đặc hiệu ứng với các giá trị lần lượt là 87%, 86% và 97% 14. Nhóm tác giả sử dụng tín hiệu EEG để phục vụ cho việc phân loại bệnh động kinh. Bài báo đưa ra một mô hình nhằm nâng cao độ chính xác trong phân loại các tín hiệu nhiễu trong khi vẫn giữ được lượng thông tin phức tạp. Phương pháp biến đổi Wavelet rời rạc được sử dụng để trích xuất tính năng và đưa vào khảo sát với các thuật toán phân loại như máy véc-tơ hỗ trợ (Support Vector Machine), mạng thần kinh nhân tạo (Artificial Neural Network), Naïve Bayes cùng với bộ phân loại tổ hợp tín hiệu nhận biết nhiễu (NSC) này kết hợp bốn mô hình phân loại dựa trên hiệu suất riêng lẻ của chúng. NSC cho các kết quả phân loại tốt nhất với các tín hiệu có tỷ lệ tín hiệu trên nhiễu (SNR) với 1dB, 5dB, 10dB lần lượt là 0,80 0,84 và 0,88. Đặc biệt độ chính xác với tín hiệu “sạch” lên đến 0,9 và cao hơn so với các thuật toán phân loại khác 15. Yu Chen và cộng sự16 sử dụng các tính năng ở miền thời gian, miền thời gian-tần số và các tính năng phi tuyến do chúng có những đặc điểm mang tính toàn diện và thích hợp. Ngoài ra, phương pháp LDA còn được sử dụng để lựa chọn tính năng nhằm cải thiện kết quả phân loại. Thuật toán Ensemble với mô hình Adaboost được sử dụng và đạt được độ chính xác trung bình ở chiều dominance là 88,70%. Bộ phân loại có thể tập trung tốt hơn vào các mẫu phân loại sai, nhờ đó cải thiện được khả năng tổng quát hóa, tránh tình trạng quá mức (overfitting) và cải thiện hiệu suất phân loại cảm xúc. Zhuang và các cộng sự đã sử dụng bộ dữ liệu DEAP và xử lý tín hiệu điện não bởi thuật toán EMD. Ưu điểm của EMD là lợi thế sử dụng những thông tin dao động hơn những phương pháp khác. Ngoài ra, khi so sánh với phép biến đổi Wavelet thì EMD còn có thể phân tích tín hiệu tự động và bỏ qua việc lựa chọn cửa sổ. Tín hiệu EEG sẽ được phân tích thành những hàm bản chất (Intrinsic Mode Function, IMF). Các thông tin của IMF được chọn làm các tính năng như sự khác nhau về thời gian, sự khác nhau về pha và năng lượng được chuẩn hóa. Thành phần IMF1 cho kết quả tốt nhất, độ chính xác ở chiều valence và arousal lần lượt là 70,41% và 72,10% 17.
Xu hướng xác định một mô hình tốt nhất đã phổ biến từ lâu, cho dù mô hình đó dựa trên máy học hay thống kê thì độ chính xác cho một mô hình cũng phần nào hỗ trợ mạnh mẽ trong các phát triển ứng dụng phân loại EEG. Bên cạnh các mô hình ý nghĩa sâu sắc trong lĩnh vực y tế, đáp ứng sự phát triển và nhu cầu sử dụng của đại đa số con người cũng ngày càng tăng. Các ứng dụng tối ưu hóa cuộc sống con người được phát triển và sử dụng càng ngày càng phổ biến. Để đóng góp vào nguồn dữ liệu nghiên cứu, chúng tôi tiến hành thí nghiệm thu thập dữ liệu, khảo sát các kỹ thuật chuẩn hóa và phân tách dữ liệu huấn luyện, kiểm tra. Các thuật toán máy học được sử dụng để phân loại các trạng thái dữ liệu thu được.
DỮ LIỆU VÀ PHƯƠNG PHÁP
Dữ liệu phân loại
Bộ dữ liệu data-021 là sản phẩm của Khoa Vật lý–Vật lý Kỹ thuật, Trường Đại học Khoa học Tự nhiên, ĐHQG–HCM. Dữ liệu ghi lại các hoạt động thay đổi điện thế ở bề mặt vỏ não bằng kỹ thuật điện não đồ. Các tín hiệu sóng não thu được ở dạng tín hiệu số liên tục theo thời gian. Nghiên cứu sử dụng thiết bị EMOTIV Insight với 5 kênh tín hiệu lần lượt là AF3, AF4, T7, T8 và Pz. Thiết bị được kết nối không dây đến phần mềm thu dữ liệu EEG SURVEY. Đây là phầm mềm được nhóm nghiên cứu xây dựng trên môi trường lập trình LabVIEW. Công cụ ghi tín hiệu cho phép người sử dụng nhập các thông tin khảo sát được từ người tham gia thí nghiệm, giao diện ứng dụng cho phép quan sát các đối tượng như nhãn/ trạng thái tín hiệu, số lượng mẫu đã thu, đồ thị sóng của năm kênh tín hiệu, chất lượng tiếp xúc của các kênh tín hiệu, thời lượng pin của thiết bị cũng như chất lượng kết nối không dây giữa máy tính và thiết bị thu tín hiệu (Figure 1).

Thiết lập phần mềm và thiết bị thu tín hiệu sóng não
Thiết kế thí nghiệm gồm một máy tính đã cài đặt phần mềm EEG SURVEY, một thiết bị ghi tín hiệu là EMOTIV Insight, một màn hình hiển thị các đoạn băng ghi hình ảnh mô tả từng trạng thái để người tham gia thí nghiệm thực hiện theo các mô tả có trong đoạn băng. Kỹ thuật viên làm việc với máy tính và thiết bị thu. Người tham gia thí nghiệm được yêu cầu giữ sức khỏe tốt, ngủ đủ giấc vào đêm trước thi tham gia thí nghiệm, không sử dụng chất kích thích, không có tiền sử các bệnh mãn tính liên quan đến thần kinh. Nơi diễn ra thí nghiệm là không gian kín, hạn chế tối đa các loại tiếng ồn từ môi trường xung quanh cũng như các tác nhân gây ảnh hưởng đến sự tập trung của người tham gia thí nghiệm, tuy nhiên tất cả chỉ nằm ở mức tương đối cho phép. Người tham gia được yêu cầu ngồi thoải mái, thả lỏng, ổn định tinh thần trong suốt quá trình ghi tín hiệu. Bộ dữ liệu data-021 gồm có 10 người tham gia thí nghiệm, mỗi người sẽ được thu bảy trạng thái gồm nhắm mắt, mở mắt, liếc mắt sang trái, liếc mắt sang phải, nhướn mày, cười mĩm và trạng thái bình thường (lần lượt tương ứng với các nhãn close eye, open eye, eye left, eye right, eye brown, smile và normal như mô tả Figure 2). Mỗi nhãn được lặp lại 20 lần, mỗi lần kéo dài 8 giây. Tần số lấy mẫu là 128 Hz. Mô tả cụ thể của từng nhãn/ trạng thái như sau:
-
Trạng thái bình thường (
normal ): Đối tượng ngồi thoải mái trên ghế, mở mắt, bình tĩnh và tránh bất kỳ công việc suy nghĩ. -
Nhắm mắt (
close eye ): Từ trạng thái bình thường, đối tượng đang mở mắt sau khi ghi tín hiệu từ 2–4 giây đối tượng được yêu cầu nhắm mắt nhàn nhã, tránh dao động và cơ mắt co mạnh trong phần còn lại của bản ghi. -
Mở mắt (
open eye ): Từ trạng thái bình thường, đối tượng đang nhắm mắt sau khi ghi tín hiệu từ 2–4 giây đối tượng được yêu cầu mở mắt cho đến hết 8 giây. -
Liếc mắt sang trái (
eye left ): Từ trạng thái bình thường, 2–4 giây sau khi bắt đầu ghi, đối tượng được yêu cầu liếc mắt sang trái và giữ nguyên trạng thái cho đến khi quá trình ghi dừng. -
Liếc mắt sang phải (
eye right ): Từ trạng thái bình thường, 2–4 giây sau khi bắt đầu ghi, đối tượng được yêu cầu liếc mắt sang phải và tiếp tục cho đến khi quá trình ghi dừng lại. -
Cười mĩm (
smile ): Từ trạng thái bình thường, 2–4 giây sau khi bắt đầu ghi, đối tượng được yêu cầu cười mĩm nhẹ nhàng (không hé môi, hở răng) và tiếp tục giữ nguyên trạng thái cho đến khi quá trình ghi dừng lại. -
Nhướn mày (
eye brown) : Từ trạng thái bình thường, 2–4 giây sau khi bắt đầu ghi hình, đối tượng được yêu cầu nhướn mày như thể đang ngạc nhiên.

Cấu trúc thư mục của data-021

Cấu trúc của một tệp dữ liệu
Sau khi hoàn tất mỗi bản ghi được lưu trữ lại như cấu trúc thư mục ở Figure 2 với định dạng .txt. Như mô tả Figure 3, thông tin trong mỗi tệp dữ liệu gồm có giá trị của năm kênh tín hiệu tương ứng với các cột IED‒AF3, IED‒T7, IED‒O1, IED‒T8 và IED‒AF4, các thông số thời gian và giá trị theo hai trục tọa độ của con quay hồi chuyển. Trong nghiên cứu này tập trung sử dụng giá trị năm kênh tín hiệu điện não đồ để phân loại bảy nhãn.
Chuẩn hóa dữ liệu
Mỗi thuật toán có những giả định về dữ liệu khác nhau nên dữ liệu cần được chuẩn hóa trước khi phân loại. Có hai kỹ thuật chuẩn hóa dữ liệu là bình thường hóa dữ liệu (normalization) bằng phương pháp chuẩn hóa max-min và chuẩn hóa dữ liệu (standardization) bằng phương pháp chuẩn hóa z-score18, 19. Bình thường hóa max-min là một kỹ thuật đơn giản trong đó kỹ thuật này có thể khớp dữ liệu một cách cụ thể trong một ranh giới xác định trước với một ranh giới xác định trước. Đây là sự điều chỉnh tỷ lệ sao cho dữ liệu nằm trong khoảng [0; 1] hoặc cũng có thể [-1; 1] bằng cách áp dụng công thức (1). Trong đó, x là giá trị dữ liệu chưa chuẩn hóa, x là giá trị dữ liệu nhỏ nhất, x là giá trị dữ liệu lớn nhất, x là dữ liệu sau khi chuẩn hóa 20.
Kỹ thuật chuẩn hóa dữ liệu được sử dụng phổ biến nhất là z-score được tính bằng giá trị trung bình cộng (μ) và độ lệch chuẩn (σ) của dữ liệu đã cho dựa vào công thức (2). Đây là kỹ thuật tỷ lệ dữ liệu giúp cho giá trị của mỗi đặc trưng hay quan sát có giá trị trung bình bằng 0 bằng cách trừ đi μ ở tử số và phương sai của phân phối bằng 1 khi chia cho σ ở mẫu số21.
Trong nghiên cứu này, dữ liệu được chuẩn hóa bằng các kỹ thuật max-min, z-score trước khi tiến hành các bước trích xuất đặc trưng của dữ liệu. Nghiên cứu cũng trình bày một số kết quả khảo sát được khi dữ liệu chưa được chuẩn hóa để có những nhận định khách quan về tầm quan trọng của chuẩn hóa dữ liệu.
Kiểm chứng chéo dữ liệu
Phân tách dữ liệu thành các tập huấn luyện và kiểm tra là một đặc trưng của các mô hình học có giám sát của các thuật toán máy học22, 23. Khi cho các tham số vào một hàm dự đoán và kiểm tra trên cùng một tập dữ liệu, đây là sai lầm vì mô hình chỉ gặp các nhãn mà mô hình vừa kiểm tra nên kết quả thu được tuyệt đối đúng và kết quả này không có ý nghĩa. Đây chính là vấn đề được gọi là quá mức (overfitting) 24. Kiểm chứng chéo là giải pháp cho vấn đề quá mức sử dụng một phương pháp thống kê đánh giá và so sánh các thuật toán học tập bằng cách chia dữ liệu thành hai phân đoạn: một phân đoạn dùng để học hoặc đào tạo mô hình và phân đoạn còn lại dùng để xác thực mô hình. Bên cạnh đó, kiểm chứng chéo là kỹ thuật lấy mẫu để đánh giá mô hình học máy trong trường hợp dữ liệu không được dồi dào25. Dữ liệu được chia thành k đoạn (k-fold) và lặp lại k lần. Trong đó, k đại diện cho số nhóm dữ liệu được chia như mô tả Figure 4. Giá trị của k được chọn sao cho mỗi tập dữ liệu huấn luyện/ kiểm tra chứa số lượng mẫu dữ liệu đủ lớn để đại diện về mặt thống kê cho tập dữ liệu rộng hơn. Kiểm chứng chéo có bốn biến thể gồm:
-
Train/ Test split : chỉ tạo ra duy nhất một tập huấn luyện và một tập kiểm tra để đánh giá mô hình. Đây là trường hợp đặc biệt của CV khi k=2 26. -
Leave-one-out CV: đây là trường hợp k bằng với kích thước của tập dữ liệu, tức tất cả đối tượng trong dữ liệu đều có cơ hội được đưa ra khỏi tập dữ liệu27. -
Stratified: khi dữ liệu được chia thànhk-fold , mỗi phần sẽ chứa cùng một tỷ lệ phân loại nhất định28. Tương ứng với dữ liệu trong nghiên cứu, data-021 có kích thước 1400 mẫu, được chia thành 10-fold, mỗi fold chứa 220 mẫu bao gồm đầy đủ bảy nhãn. -
Repeated k-fold kiểm chứng chéo lần lượt được lặp lạin lần, trong đó quan trọng là mẫu dữ liệu được xáo trộn trước mỗi lần lặp lại, dẫn đến sự phân chia mẫu khác nhau29.

Kỹ thuật xác thực chéo k-lần
Trong nghiên cứu này, các biến thể Stratified và Repeated được kết hợp với nhau nhằm tạo ra các k-fold với kích thước và số lượng mẫu tương ứng mỗi nhãn là như nhau ở mỗi đoạn (fold), quá trình kiểm chứng được lặp lại 10 lần và dữ liệu được xáo trộn một cách ngẫu nhiên. Phương pháp này được gọi là kiểm chứng chéo k-fold Stratified Repeated hay gọi tắt là k-fold SRCV. Bước đầu sử dụng kỹ thuật 2-fold SRCV để khảo sát tất cả các mô hình phân loại nhằm lựa chọn mô hình tối ưu trước khi khảo sát tối ưu hóa các tham số.
Trích xuất đặc trưng
Nghiên cứu sử dụng phương pháp biến đổi Wavelet rời rạc (DWT) họ db4 để phân tách dữ liệu thành năm mức30. Tín hiệu đầu vào có tần số lấy mẫu là 128 Hz, thu được các giá trị tần số ở các mức sau mỗi lần phân tách tương ứng với nhịp sóng não đặc trưng (Table 1).
Mối liên hệ giữa các hệ số Wavelet với các nhịp EEG
|
Hệ số Wavelet |
Tần số (Hz) |
Nhịp EEG |
|
|
> 63 |
Nhiễu |
|
|
32 – 63 |
|
|
|
16 – 32 |
|
|
|
8 – 16 |
|
|
|
4 – 8 |
|
|
|
0 – 4 |
|
Điện não đồ được phân tách thành năm dãy sóng đặc trưng là delta, theta, alpha, beta và gamma31. Tuy nhiên, gamma là nhịp sóng chỉ có thể thu được nếu sử dụng kỹ thuật lấy mẫu xâm lấn (tức các phương pháp cấy ghép điện não tiếp xúc với não hoặc sâu trong tế bào não). Nghiên cứu này ghi tín hiệu bằng kỹ thuật không xâm lấn (sử dụng điện cực khô tiếp xúc với da đầu) nên các tần số tương ứng gamma và lớn hơn sẽ được xem là nhiễu và loại bỏ. Các nhịp sóng còn lại được sử dụng tương ứng với các hệ số chi tiết Wavelet là và hệ số xấp xỉ là 32.
Từ các thành phần đặc trưng trên, nghiên cứu đề xuất một dạng ma trận đặc trưng làm đầu vào cho các thuật toán máy học. Mỗi kênh tín hiệu được phân tách thành bốn dãy nhịp sóng đặc trưng của EEG, trong đó ba nhịp theta, alpha, beta tương ứng hệ số chi tiết , nhịp delta tương ứng thành phần hệ số xấp xỉ . Năng lượng thành phần xấp xỉ của năm kênh tín hiệu, được tính theo công thức (4), trong đó N là kích thước dữ liệu. Năng lượng thành phần chi tiết của năm kênh tín hiệu tính theo công thức (3), năng lượng tổng cộng tính theo công thức (5). Do đó, một ma trận gồm 21 tính năng được xây dựng để cải thiện hiệu quả phân loại, trong đó N tương ứng với 1400 mẫu dữ liệu.
Thuật toán máy học
Thuật toán tổng hợp – ensemble method
Bagging, boosting và random subspace là ba kỹ thuật phổ biến nhất của thuật toán tổng hợp. Bagging là một kỹ thuật sử dụng phương pháp bỏ phiếu theo đa số. Kỹ thuật quy tắc biểu quyết đa số (majority voting) thu thập các phiếu bầu của tất cả các bộ phân loại và điều tra tên lớp mà hầu hết được các bộ phân loại báo cáo. Sau đó, mô hình chọn lớp được báo cáo nhiều nhất như một quyết định cuối cùng33. Boosting là một phương pháp đưa ra kết quả học tập cuối cùng bằng cách dựa vào các dự đoán kết quả của những lần học trước. Đầu tiên tạo ra mô hình phân loại yếu, các mô hình cải tiến sau kế thừa và các điểm bị phân loại sai từ các mô hình trước được đánh trọng số lớn hơn trung bình và tiếp tục lặp lại, kế thừa, cải tiến mô hình cho đến khi tạo được mô hình được xem là học giỏi34. Như vậy, các mô hình mới bị ảnh hưởng bởi hiệu suất của những mô hình trước. Kỹ thuật random subspace được sử dụng cho biến phản hồi phân loại được gọi là phân loại và phản hồi liên tục được gọi là hồi quy. Đây là một phương pháp kết hợp các mô hình tương đối gần đây. Máy học được huấn luyện trên không gian con được chọn ngẫu nhiên của không gian đầu vào ban đầu (tức là tập huấn luyện được lấy mẫu trong không gian đặc trưng). Kết quả đầu ra của các mô hình sau đó được kết hợp với nhau, thường là dùng bình chọn đa số để đưa ra quyết định phân loại cuối cùng 35. Nghiên cứu trình bày năm mô hình điển hình của thuật toán tổng hợp. Mô hình Bagged Trees sử dụng kỹ thuật bagging với kiểu ra quyết định là bình chọn theo số đông. Mô hình Boosted Trees, RUSboosted trees sử dụng kỹ thuật boosting cùng với bình chọn kết quả theo số đông. Mô hình Random Subspace, Subspace Ensemble sử dụng kỹ thuật random subspace.
Máy véc-tơ hỗ trợ - SVM
Động lực chính đằng sau SVM là giải quyết trực tiếp mục tiêu tổng quát hóa tốt bằng cách đồng thời tối đa hóa hiệu suất của máy trong khi giảm thiểu độ phức tạp của mô hình đã học. Đối với dữ liệu data-021 có bảy nhãn, đây là bài toán phân loại đa lớp. Cách thức để giải quyết bài toán là giảm vấn đề phân loại đa lớp thành một tập hợp các bài toán con phân loại nhị phân, với mỗi lần học SVM sẽ giải quyết lần lượt các bài toán phân loại hai lớp. Có hai phương pháp chuyển hóa phân loại đa lớp thành hai lớp, được gọi là kỹ thuật một – một (one vs one) và một – nhiều (one vs all). Khi một nhãn được xem là tích cực và tất cả các nhãn còn lại là tiêu cực, số bài toán con mà mô hình phải học là k, trong đó k là số nhãn, được gọi là phương pháp một – nhiều (one vs all) 36. Như vậy, data-021 có bảy nhãn thì các mô hình phân loại phải học và giải quyết bảy bài toán con. Khi một nhãn là tích cực, nhãn khác là tiêu cực và phần còn lại bị bỏ qua. Thiết kế này loại bỏ tất cả sự kết hợp của các bài tập cặp lớp. Số lần SVM phải học và phân loại các bài toán con là (k(k-1))/2. Tương ứng dữ liệu data-021 là 21 lần học và phân loại của SVM. Hàm hạt nhân (kernel) giúp chuyển vấn đề không phân tách được thành phân tách được, tức chuyển đổi bài toán đa lớp sang nhị phân. Quy trình chuyển đổi của hàm hạt nhân khá phức tạp, yêu cầu là cần tìm ra quy trình tách dữ liệu dựa trên các nhãn hoặc các kết quả đầu ra trước đó đã xác định được37. Các hàm hạt nhân được sử dụng là gaussian, cubic, quadratic, linear38, 39. Khi dữ liệu không phân loại được gọi là phân loại sai, có hệ số C gọi là hệ số ràng buộc (constraint) 40. Hệ số C là tham số kiểm soát sự cân bằng giữa hai điều kiện là khoảng cách siêu mặt phẳng đến điểm dữ liệu phải lớn nhất nhưng tỷ lệ huấn luyện sai của tập huấn luyện đạt nhỏ nhất. Khi tăng C làm tăng trọng số của các phân loại sai giúp phân loại được cải thiện và chặt chẽ hơn. Trong thuật toán SVM có sáu mô hình phân loại điển hình là Linear SVM, Quadratic SVM, Cubic SVM, Fine Gaussian SVM, Medium Gaussian SVM, Coarse Gaussian SVM được mô tả ở Table 2.
Mô tả các mô hình phân loại của thuật toán SVM
|
Models |
Kernel function |
Constraint |
Kernel scale |
Multiclass method |
|
Linear SVM |
linear |
1 |
1 |
one vs one |
|
Quadratic SVM |
quadratic |
1 |
1 |
one vs one |
|
Cubic SVM |
cubic |
1 |
1 |
one vs one |
|
Fine Gaussian SVM |
gaussian |
1 |
1.3 |
one vs one |
|
Medium Gaussian SVM |
gaussian |
1 |
5.2 |
one vs one |
|
Coarse Gaussian SVM |
gaussian |
1 |
21 |
one vs one |
K-láng giềng gần nhất – k-NN
kNN đây là một thuật toán lười học hay được gọi là thuật toán học dựa trên phiên bản hay học dựa trên trí nhớ. Thuật toán sử dụng kỹ thuật bình chọn số đông để quyết định nhãn của bộ dữ liệu huấn luyện, các bộ phân loại kNN thường có độ chính xác dự đoán tốt ở kích thước thấp41. Một dữ liệu không được gắn nhãn sau đó được phân loại theo nhãn của các dữ liệu xung quanh và được gắn nhãn theo điểm dữ liệu gần nhất. Các biến thể của lược đồ này bao gồm bộ phân loại kNN, sử dụng phiếu bầu của kNN được gắn nhãn gần nhất và bộ phân loại chọn lọc, lưu trữ và sử dụng các ví dụ được gắn nhãn một cách chọn lọc 42. Nghiên cứu này sử dụng bộ phân loại kNN với các nhãn được quy định bằng kỹ thuật sử dụng số phiếu bầu nhiều nhất. Các mô hình phân loại kNN được sử dụng gồm các mô hình kết hợp công thức tính khoảng cách Euclidean: Fine kNN, Medium kNN, Coarse kNN; Cosine kNN; Cubic kNN; Weighted kNN. Bên cạnh đó, các kỹ thuật đánh trọng số cũng giúp cải thiện hiệu suất mô hình hơn. Trong k điểm gần nhất, tất cả các điểm dữ liệu được gán nhãn theo nhãn có số lượng điểm dữ liệu nhiều nhất trong k điểm. Tuy nhiên, khi đánh giá như vậy thì vai trò của k điểm là như nhau. Trong k điểm, có điểm gần hơn đáng tin cậy hơn, điểm ở xa kém tin cậy hơn. Để cải thiện vấn đề, các điểm dữ liệu được đánh trọng số với các công thức w=1/d (trọng số bằng nghịch đảo bình phương khoảng cách); w=1/d (trọng số bằng nghịch đảo khoảng cách). Nhờ vào việc đánh trọng số, đặc tính của từng điểm dữ liệu đã được phân định rõ ràng. Nghiên cứu này sử dụng phương thức đánh trọng số bằng nghịch đảo bình phương khoảng cách, đây là phương thức thấy rõ nhất khi điểm càng tin cậy thì trọng số càng lớn.
KẾT QUẢ VÀ THẢO LUẬN
Đầu tiên, dữ liệu được chuẩn hóa bằng hai kỹ thuật max-min, z-score và không chuẩn hóa dữ liệu. Sau đó, DWT – db4 phân tách 5 mức được sử dụng để trích xuất 21 tính năng và khởi tạo ma trận 1400×21 được gọi là ma trận tính năng làm đầu vào cho 17 mô hình phân loại. Nghiên cứu sử dụng kỹ thuật 2-fold SRCV để kiểm chứng chéo dữ liệu. Độ chính xác và thời gian xử lý của các mô hình được trình bày chi tiết ở Table 3. Hiệu suất của các kỹ thuật kết hợp với các mô hình được đánh giá thông qua độ chính xác và thời gian xử lý dữ liệu. Dựa vào kết quả khảo sát, bình thường hóa dữ liệu bằng kỹ thuật max-min cho kết quả tốt hơn so với chuẩn hóa dữ liệu z-score và không chuẩn hóa dữ liệu. Chuẩn hóa dữ liệu z-score là bước quan trọng đối với các tín hiệu không cùng đơn vị, vì các biến được đo lường ở các tỷ lệ khác nhau không đóng góp như nhau vào phân tích và cuối cùng có thể tạo ra một rào cản. Tuy nhiên, đối với dữ liệu data-021 là kiểu tín hiệu số liên tục theo thời gian (với đơn vị biên độ là μV). Vì vậy, chuẩn hóa z-score không thật sự nổi bật bằng bình thường hóa max-min mặc dù so với không chuẩn hóa dữ liệu thì kết quả phân loại được cải thiện hơn.
Đối với thuật toán tổng hợp, việc sử dụng bình chọn theo số đông để đưa ra nhận định cuối là một phương pháp rất phổ biến. Tuy nhiên, khi đánh giá như vậy thì vai trò của tất cả kết quả bỏ phiếu đều là như nhau, các kết quả đáng tin cậy hơn được đánh giá ngang với các kết quả không đáng tin cậy. Vì nhược điểm này, các mô hình sử dụng bình chọn theo số đông sẽ cho kết quả không tốt bằng mô hình sử dụng kỹ thuật khác, điển hình là kết hợp kỹ thuật quyết định kNN. Các mô hình như Boosted trees, RUSboosted trees, Bagged trees có độ chính xác lần lượt 51,5%, 45,5% và 74,6%. Ngoài ra, Random subspace là phần mở rộng ý tưởng của bagging và được phát triển như là một đối thủ cạnh tranh với bagging. Random subspace đã thể hiện rõ lợi thế khi kết quả thu được là cao nhất với 81,2%, hiệu quả hơn so với Bagged trees, mặc dù đây cũng là một trong những mô hình tốt nhất của thuật toán tổng hợp.
Độ chính xác và thời gian xử lý của 17 mô hình phân loại của các thuật toán tổng hợp, thuật toán SVM và thuật toán kNN
|
Mô hình phân loại |
max-min |
zscore |
Không chuẩn hóa | |||
|
ACC (%) |
Thời gian (giây) |
ACC (%) |
Thời gian (giây) |
ACC (%) |
Thời gian (giây) | |
|
Boosted trees |
55,1 |
12,11 |
54,6 |
15,84 |
54,9 |
12,85 |
|
Bagged trees |
74,6 |
6,14 |
74,8 |
8,62 |
73,6 |
6,20 |
|
Subspace discriminant |
55,4 |
9,07 |
55,1 |
11,62 |
54,6 |
9,57 |
|
Subspace Ensemble |
81,2 |
15,98 |
80,2 |
18,99 |
81,4 |
16,03 |
|
RUSboosted trees |
45,5 |
21,44 |
44,1 |
31,15 |
45,1 |
21,89 |
|
Linear SVM |
59,6 |
3,87 |
60,0 |
3,44 |
60,3 |
3,36 |
|
Quadratic SVM |
67,5 |
7,53 |
66,7 |
6,99 |
68,0 |
6,05 |
|
Cubic SVM |
81,7 |
5,63 |
81,9 |
5,59 |
81,9 |
5,10 |
|
Fine Gaussian SVM |
78,1 |
4,60 |
79,4 |
4,94 |
78,4 |
4,42 |
|
Medium Gaussian SVM |
74,9 |
8,94 |
75,4 |
7,89 |
76,6 |
6,89 |
|
Coarse Gaussian SVM |
54,1 |
10,86 |
53,9 |
8,79 |
53,7 |
7,65 |
|
Fine kNN |
80,1 |
1,61 |
77,5 |
1,98 |
78,2 |
1,92 |
|
Medium kNN |
76,0 |
0,75 |
74,7 |
0,84 |
75,9 |
0,81 |
|
Coarse kNN |
49,8 |
2,11 |
49,8 |
2,80 |
50,5 |
2,44 |
|
Cosine kNN |
70,1 |
2,00 |
70,2 |
2,60 |
71,0 |
2,31 |
|
Cubic kNN |
73,4 |
8,39 |
72,6 |
8,85 |
73,2 |
8,36 |
|
Weighted kNN |
79,3 |
1,82 |
77,9 |
2,07 |
78,6 |
2,03 |
Đối với thuật toán SVM, được sử dụng để ánh xạ không gian đầu vào của thuật toán vào không gian tính năng có chiều cao. Khi hàm hạt nhân là linear, các dữ liệu được xem là tuyến tính, dữ liệu trong nghiên cứu là tín hiệu biến thiên theo thời gian nên dẫn đến chồng lấp các thông tin và tính năng, hiệu suất phân loại cũng giảm đi, kết quả đạt được 59,6%. Hàm hạt nhân Gaussian sử dụng các đường cong thông thường xung quanh các điểm dữ liệu và tính tổng các điểm dữ liệu sao cho ranh giới quyết định có thể được xác định bởi một loại điều kiện để phân tách được các đặc trưng của từng nhãn. Chính vì vậy, kết quả khả quan hơn so với hàm linear với độ chính xác là 78,1% cho mô hình Fine Gaussian SVM. Fine Gaussian SVM là mô hình có tính chất của một đa thức bậc cao. Tích vô hướng giữa hai hàm đặc trưng được tính bởi sự kết hợp giữa hai véc-tơ mà không cần tìm biểu diễn của dữ liệu trước khi ánh xạ sang chiều không gian cao. Điều này giúp tiết kiệm chi phí tính toán khi biết trước được định dạng của hàm hạt nhân. Chính vì vậy, mô hình cubic SVM cho kết quả phân loại 81,7% và thời gian xử lý dữ liệu khá tốt so các mô hình còn lại.
Đối với kNN, khoảng cách Euclidean áp dụng định lý Pitago để tính khoảng cách trong không gian hai chiều. Đây là công thức rất phổ biến, dễ thực hiện và đạt kết quả tốt trong nhiều trường hợp. Khoảng cách này chỉ hiệu quả với dữ liệu có chiều không gian thấp và dễ bị ảnh hưởng bởi các tính năng. Vì vậy, cần phải có bước chuẩn hóa dữ liệu trước khi tính toán. Mô hình Fine kNN kết hợp chuẩn hóa dữ liệu max-min đã chứng minh được những nhận định trên bằng độ chính xác tốt nhất 80,1%. Medium kNN và Coarse kNN cùng chung công thức khoảng cách nhưng việc lấy số điểm k lân cận quá lớn đã làm tỷ lệ chồng lấn giữa các trạng thái bị nâng cao dẫn đến hiệu suất phân loại của hai mô hình không được tối ưu.
Sau khi đã xác định được mô hình tốt nhất của từng thuật toán tương ứng, nghiên cứu sẽ khảo sát các kết quả liên quan đến kỹ thuật kiểm chứng chéo. Cần phải lựa chọn tham số k phù hợp để thỏa đủ hai điều kiện là Stratified và Repeated. Số lượng mẫu giữa các k-fold phải bằng nhau, mỗi k-fold phải chứa bảy nhãn và số lượng nhãn trong mỗi k-fold phải bằng nhau (thỏa Stratified). Dữ liệu data-021 có 1400 mẫu, gồm bảy nhãn, mỗi nhãn có 220 mẫu. Vậy k phải là số mà cả 1400 và 220 đều chia hết cho k. Đối với máy học, khi tăng số lượng mẫu huấn luyện thì hiệu suất mô hình sẽ được cải thiện và đi kèm là thời gian huấn luyện cũng tăng. Các giá trị k có thể nhận là [5, 10, 20, 25, 50, 100], mỗi giá trị k tương ứng sẽ được lặp lại n=10 lần (thỏa Repeated). Kết quả của mô hình Subspace Ensemble, Cubic SVM, Fine kNN lần lượt được thể hiện ở các Table 4 và Table 5. Các kết quả sẽ được đánh giá dựa trên độ chính xác và độ lệch chuẩn, vì tính chất lặp lại xáo trộn ngẫu nhiên các mẫu dữ liệu nên việc đánh giá mô hình dựa trên độ lệch chuẩn sẽ giúp dễ dành nhận biết mức độ ổn định của mô hình.
Kết quả khảo sát SRCV của mô hình Subspace Ensemble và Fine k-NN
|
k-fold |
Subspace Ensemble |
Fine k-NN | ||
|
ACC (%) |
StD (%) |
ACC (%) |
StD (%) | |
|
5 |
85,8 |
0,19 |
83,46 |
0,12 |
|
10 |
86,2 |
0,12 |
84,29 |
0,09 |
|
25 |
86,7 |
0,11 |
84,21 |
0,05 |
|
50 |
86,8 |
0,06 |
84,45 |
0,05 |
|
100 |
86,7 |
0,07 |
84,46 |
0,04 |
Kết quả khảo sát SRCV của mô hình phân loại Cubic SVM
|
k-fold |
One - one |
One - all | ||
|
ACC (%) |
StD (%) |
ACC (%) |
StD (%) | |
|
5 |
84,12 |
0,12 |
83,68 |
0,15 |
|
10 |
84,74 |
0,16 |
84,46 |
0,10 |
|
25 |
85,42 |
0,07 |
84,48 |
0,09 |
|
50 |
85,54 |
0,07 |
84,90 |
0,11 |
|
100 |
85,54 |
0,06 |
85,04 |
0,07 |
Như mô tả ở Table 4 và Table 5, Subspace Ensemble với 50-fold SRCV cho hiệu suất phân loại tốt nhất với độ chính xác trung bình là 86,8% và độ lệch chuẩn StD 0,06%. Mô hình Fine kNN đạt kết quả 84,46% và StD 0,04% với kỹ thuật kiểm chứng chéo là 100-fold SRCV. Đối với Cubic SVM, phương pháp phân loại một – một với số lần học và phân loại ít hơn xấp xỉ một nửa đã giảm thiểu chi phí tính toán cho mô hình, thời gian huấn luyện và kiểm tra nhanh hơn. Bên cạnh đó, số lượng nhãn phân loại khá nhiều (bảy nhãn) nhưng độ chính xác phân loại 85,42% khi áp dụng phương pháp một – một. Độ lệch chuẩn ở 100-fold ổn định hơn so với 25-fold và 50-fold. Tuy nhiên, khi phân đoạn dữ liệu càng nhiều, số lượng mẫu huấn luyện càng tăng giúp cải thiện hiệu suất của mô hình phân loại trở nên tốt hơn, độ ổn định của mô hình được thể hiện qua phần trăm độ lệch chuẩn rất thấp nhưng thời gian huấn luyện mô hình cũng tăng theo do chi phí tính toán bị thay đổi. Vì vậy, mô hình mang đầy đủ tính chất hiệu suất cao, ổn định và hoạt động nhanh khi áp dụng 25-fold Cubic SVM.
Subspace Ensemble
Thuật toán tổng hợp sử dụng mô hình phân loại Subspace Ensemble 50-fold SRCV độ chính xác 86,8% là kết quả ghi nhận được sau các khảo sát. Tham số có thể tối ưu hóa thêm cho mô hình Subspace Ensemble chính là số lần học. Figure 5 mô tả sự biến đổi của độ chính xác theo số lần học của mô hình. Nghiên cứu khảo sát tham số này từ 1–100 với bước nhảy là 1. Ở lần học thứ 29, mô hình ghi nhận được kết quả phân loại 87,7%. Như vậy, sau 29 lần học mô hình đạt hiệu suất tối ưu và kết quả phân loại từng nhãn được thể hiện ở ma trận nhầm lẫn Figure 6. Tất cả các nhãn đều đạt kết quả hơn 80%, tỷ lệ nhầm lẫn giữa hai nhãn open eye và close eye từ 7% đến 9%. Hai nhãn có tỷ lệ phân loại sai lên đến hơn 10% là eye left và eye right. Các nhãn liên quan đến biểu hiện gương mặt, khá độc lập và đặc trưng về mặt hình ảnh nên kết quả phân loại rất tốt lần lượt 96% và 96,5% tương ứng với eye brown và smile. Rajdeep và cộng sự 43 đã sử dụng kỹ thuật Adaboost thuộc phương pháp boosting của thuật toán tổng hợp để phân loại tín hiệu hành động điều khiển động cơ với bốn nhãn. Trích xuất đặc trưng tín hiệu bằng cách tính năng lượng dải và năng lượng entropy. Các tác giả các kỹ thuật trích xuất đặc trưng chẳng hạn như biến đổi Wavelet rời rạc (DWT) hoặc căn bậc hai dựa trên Wavelet (RMS) và năng lượng-entropy (EngEnt), mật độ phổ công suất, công suất dải (Bp) và các thông số tự động phục hồi thích ứng (AAR). Phân loại bằng kỹ thuật Adaboost đạt 83,57% khi sử dụng tính năng năng lượng-entropy. Chúng tôi đã cải thiện hơn khoảng 3% so với các kết quả của Rajdeep nhờ vào việc tập trung vào các thành phần chi tiết của biến đổi Wavelet và kết hợp ba tính năng là năng lượng dải, năng lượng tổng cộng và năng lượng thành phần chi tiết.

Độ chính xác của mô hình Subspace Ensemble và số lần học

Ma trận nhầm lẫn của mô hình phân loại Subspace Ensemble
Cubic SVM
Đối với mô hình phân loại là Cubic SVM sử dụng hàm hạt nhân là cubic (hay được gọi tắt là poly) nên tham số tối ưu hóa cho mô hình này chính là ràng buộc C. Figure 7 mô tả sự phụ thuộc của kết quả phân loại với hệ số ràng buộc. Tham số C được khảo sát từ 10–200 với bước nhảy là 10. Hiệu quả của mô hình ghi nhận được khi tham số C=60 độ chính xác là 86,3%. Khi tăng ràng buộc, thời gian xử lý dữ liệu của mô hình càng tăng. Tuy nhiên, C càng lớn thì biên của mặt phẳng phân loại càng nhỏ cho phép sai lệch càng bé, tỷ lệ phân loại sai giảm, chính điều này làm cho kết quả phân loại của mô hình được cải thiện hơn. Bên cạnh đó, Figure 8 cũng cho thấy kết quả phân loại của các nhãn và tỷ lệ nhầm lẫn, phân loại sai giữa các nhãn với nhau. Các nhãn về biểu hiện khuôn mặt cho kết quả phân loại tốt nhất 92,5% cho nhãn eye brown và 90,5% cho nhãn smile. Hai nhãn eye left và eye right có cải thiện tỷ lệ nhầm lẫn hơn, chỉ còn 6% đến 10%. Đối với SVM, Rajdeep và cộng sự 43 cũng thu được kết quả 76.7% khi sử dụng hàm hạt nhân là RBF (hàm gaussian) khi sử dụng tính năng trính xuất đặc trưng là công suất dải. Ngoài ra, Chatterjee và cộng sự 44 cũng sử dụng các tính năng tương tự Rajdeep là năng lượng dải và nặng lượng entropy với kết quả lần lượt là 81,43% và 85% để phân loại bốn nhãn dữ liệu (tưởng tượng cử động tay, chân trái, phải). Khi trích xuất bằng năng lượng entropy thể hiện rõ đặc tính của dữ liệu nên kết quả được cải thiện hơn khi trích xuất bằng năng lượng dải. Bên cạnh đó, Isa và các tác giả45 cũng sử dụng SVM để phân loại nhãn dữ liệu khi sử dụng FFT để trích xuất đặc trưng của tín hiệu trên miền tần số. Dữ liệu được kiếm chứng chéo 10-fold và kết quả là 78,61% cho phân loại hai nhóm dữ liệu chuyển động tay (gồm hai nhãn tay trái và tay phải) và chân (gồm chân trái và chân phải). Tuy nhiên, số lượng nhãn phân loại đã được trình bày ở đây nhiều hơn với nghiên cứu của Chatterjee, Isa và kết quả mô hình Cubic SVM SRCV là 86,3% cho thấy mô hình được khảo sát và tối ưu hóa các tham số tốt hơn giúp độ chính xác được nâng cao.

Sự phụ thuộc của độ chính xác và hệ số hộp ràng buộc

Ma trận nhầm lẫn của mô hình phân loại Cubic SVM
Fine k – Nearest Neighbor
Mô hình kNN giảm tính linh hoạt khi bắt đầu cài đặt thông số k, tức khảo sát số điểm lân cận. Như Figure 9, k được khảo sát trong khoảng từ 1 – 40 điểm, độ chính xác chỉ tốt khi số điểm lân cận ít, k lớn dần thì tỷ lệ phân loại nhầm lẫn càng lớn dẫn đến độ chính xác giảm liên tục. Khi lựa chọn số điểm xung quanh càng lớn, xác xuất chồng lấn khi phân loại giữa các nhãn dữ liệu với nhau sẽ tăng. Vì vậy, dựa vào khảo sát ở Figure 9 tham số k tốt nhất khi bằng 1 tối ưu hóa được độ chính xác lên đến 84,4%. Isa và các tác giả 45 cũng sử dụng kNN để phân loại các tín hiệu phân loại các hành động (bốn nhãn). Áp dụng kiểm chứng chéo 10-fold để huấn luyện và kiểm tra dữ liệu, mô hình phân loại sử dụng 15 điểm lân cận và tính khoảng cách theo công thức Euclidean thu được kết quả 70,8%. Mô hình của chúng tôi đa dạng về số lượng nhãn, mặc dù kích thước dữ liệu chưa lớn nhưng vẫn được cải thiện bằng kỹ thuật SRCV đã giúp cho mô hình có kết quả trội hơn. Độ nhạy giữa các trạng thái liên quan về mắt vẫn cao, có thể do chất lượng tập trung của người tham gia thí nghiệm cũng ảnh hưởng đến chất lượng của dữ liệu. Vì môi trường diễn ra thí nghiệm chỉ nằm ở mức tương đối chứ không hoàn toàn lý tưởng. Tuy nhiên, các trạng thái về biểu hiện khuôn mặt ghi nhận kết quả 94,5% và 94,9% (Figure 10) lần lượt cho các trạng thái eye brown và smile. Điều này mở ra cơ hội tiến đến các ứng dụng thực tế sử dụng các trạng thái liên quan đến biểu hiện khuôn mặt để điều khiển hay các ứng dụng liên quan trong lĩnh vực giao tiếp người – máy. Bên cạnh thuật toán SVM, Isa và các tác giả45 cũng trình bày các kết quả từ thuật toán k-NN. Kết quả của việc phân loại dữ liệu EEG bằng cách áp dụng trình phân loại k-NN với các giá trị khác nhau của k và số liệu khoảng cách được đã được Isa trình bày. Độ chính xác 70,8% với số điểm lân cận k=15 và công thức tính khoảng cách là Minkowski. Ngoài ra, Hindarto và các tác giả 46 cũng đưa ra kết quả cải thiện hơn so với Isa khoảng 6% (độ chính xác 76%) chỉ với số điểm lân cận bằng 3, để phân loại hoạt động của não để điều khiển con trỏ trên màn hình máy tính. Như vậy, mô hình của chúng tôi (Euclidean 1-NN 84,4%) chỉ với số điểm k=1 và dùng hàm tính khoảng cách Euclidean đã cải thiện độ phức tạp của mô hình tốt hơn so với khoảng cách Minkowski của Isa và hạn chế sự chồng chập dữ liệu dẫn đến sự phân loại sai được giảm thiểu tốt hơn từ 8% đến 14% so với kết quả của Hindarto và Isa. Những kết quả đối sánh được trình bày như Table 6.

Sự phụ thuộc của độ chính xác và số điểm lân cận

Ma trận nhầm lẫn của mô hình phân loại Fine k-NN
So sánh kết quả với các công bố trước
|
Tác giả/ tài liệu |
Phương pháp |
Kết quả |
|
|
Năng lượng dải + SVM |
81,43% |
|
Năng lượng entropy Wavelet + SVM |
85,00% | |
|
|
Năng lượng dải + SVM |
76,70% |
|
Năng lượng dải + Adaboost |
83,57% | |
|
|
15-NN |
70,80% |
|
SVM |
78,61% | |
|
|
3-NN |
76,00% |
|
Kết quả trình bày trong bài báo |
Subspace Ensemble SRCV |
87,70% |
|
Cubic SVM SRCV |
86,30% | |
|
Euclidean 1-NN |
84,40% |
KẾT LUẬN
Nghiên cứu và phân tích các tín hiệu điện não bằng các thuật toán phân loại được phát triển ngày càng tăng trong thế giới khoa học. Nghiên cứu này cung cấp một bộ dữ liệu gồm bảy nhãn chứa các tín hiệu khác nhau liên quan đến hành vi mắt và biểu hiện khuôn mặt. Một ứng dụng ghi, lưu và xuất dữ liệu được đề xuất giúp tối giản các bước chuyển đổi dữ liệu EEG hơn so với ứng dụng hỗ trợ kèm theo có sẵn của thiết bị ghi tín hiệu. Các tính năng được xây dựng thành dạng ma trận hai chiều giúp cải thiện làm việc phân loại được nhiều mẫu dữ liệu hơn so với đầu vào là các véc-tơ một chiều. Đề xuất kỹ thuật kiểm chứng dữ liệu mới là SRCV giải quyết được vấn đề quá mức mà các bộ dữ liệu có kích thước nhỏ dễ mắc sai lầm. Khảo sát đa dạng các mô hình có được trong ba thuật toán phân loại máy véc-tơ hỗ trợ, k-NN và thuật toán tổng hợp. Nghiên cứu này đề xuất mô hình Subspace Ensemble 50-fold SRCV với kết quả phân loại 87,7%, mô hình Cubic SVM 25-SRCV với kết quả 86,3% và mô hình có hiệu suất phân loại là 84,4% Euclidean 1-NN. Bên cạnh đó, các thách thức vẫn còn như dữ liệu cần được chất lượng hóa và nâng cao kích thước, số lượng mẫu. Hướng đến phương pháp khảo sát tối ưu hóa tất cả tham số và đề xuất mô hình tự động. Mô hình phân tích, xử lý và phân loại định tính theo thời gian thực cũng là một bài toán hướng đến giải quyết. Trong tương lai, nhiều thuật toán sẽ được khảo sát kỹ lưỡng để phân loại điện não đồ.
LỜI CẢM ƠN
Nghiên cứu được tài trợ bởi Trường Đại học Khoa học Tự nhiên, ĐHQG-HCM trong khuôn khổ Đề tài mã số T2021-01.
DANH MỤC CÁC TỪ VIẾT TẮT
AAR Adaptive Autoregressive Thích nghi hồi quy tự động
CV Cross-Validation Xác thực chéo
DE Differential Evolution Tiến hóa khác biệt
EMD Empirical Mode Decomposition Phân tích dạng kinh nghiệm
k-NN k-Nearest Neighbor K lắng giềng gần nhất
LDA Linear Discriminant Analysis Tích biệt thức tuyến tính
NSC Noise-aware Signal Combination Tổ hợp tín hiệu nhận biết nhiễu
RBFNs Radial Basis Function Neural Networks Mạng thần kinh chức năng cơ sở xuyên tâm
RBF Radial Basis Function Hàm cơ sở xuyên tâm
RMS Root mean square Sai số toàn phương trung bình
SVM Support Vector Machine Máy véc-tơ hỗ trợ
SRCV Stratified Repeated Cross-Validation Xác thực chéo phân tầng lặp lại
SNR Signal to Noise Ratio Tỷ lệ tín hiệu trên nhiễu
XUNG ĐỘT LỢI ÍCH
Các tác giả đồng ý không có bất kì xung đột lợi ích nào liên quan đến các kết quả công bố.
ĐÓNG GÓP CỦA CÁC TÁC GIẢ
Tác giả Võ Hoàng Thủy Tiên viết chương trình, viết và tổng hợp bản thảo.
Tác giả Nguyễn Thị Như Quỳnh tham gia đo đạc và xử lý tín hiệu.
Tác giả Nguyễn Thanh Phước tham gia đo đạc tín hiệu.
Tác giả Huỳnh Văn Tuấn tham gia viết và chỉnh sửa bản thảo.