Tóm tắt văn bản trên cơ sở phân loại ý kiến độc giả của báo mạng tiếng Việt
ABSTRACT
Muốn biết ý kiến của người dùng về một mặt
hàng, hoặc của cộng đồng về một vấn đề nóng
trong xã hội, , cách tốt nhất trong thời đại bùng
nổ thông tin trên internet và mạng xã hội, là khai
thác thông tin một cách hiệu quả từ những nguồn
này. Mỗi ý kiến không chỉ là một thông tin đơn
thuần, mà còn chứa cả cảm xúc của người viết.
Do đó, chúng có thể tạo nên một luồng dư luận
tác động đến cộng đồng mạng. Đây thật sự là
nguồn tài nguyên khổng lồ, có ý nghĩa to lớn đối
với nhiều lĩnh vực – từ kinh tế, chính trị đến văn
hóa xã hội – nếu có phương pháp khai thác thông
tin hiệu quả. Một hệ thống tự động để phân loại
ý kiến dựa trên cảm xúc là rất cần thiết để khai
thác hiệu quả nguồn tài nguyên này. Để hỗ trợ
người sử dụng khai thác thông tin hiệu quả hơn,
vấn đề tóm tắt thông tin cần được nghiên cứu giải
quyết, nhất là ở khía cạnh quan điểm và cảm xúc
trong mỗi ý kiến.
Hướng đến mục tiêu khai thác hiệu quả
nguồn tài nguyên, bài báo này sẽ giới thiệu mô
hình tóm tắt văn bản, không chỉ dựa vào ngữ
nghĩa mà còn dựa trên yếu tố cảm xúc. Chúng tôi
đã xây dựng một mô hình tổng quát để giải quyết
bài toán này. Từ các phương pháp phân tích ý
kiến và tóm tắt văn bản mà nhiều công trình
nghiên cứu đã sử dụng, bài báo đã kết hợp và
phát triển các phương pháp để tóm tắt văn bản
tiếng Việt trên cơ sở phân loại cảm xúc. Các văn
bản được tóm tắt là các trang báo mạng tiếng
Việt.

Trang 1

Trang 2

Trang 3

Trang 4

Trang 5

Trang 6

Trang 7

Trang 8

Trang 9
Tóm tắt nội dung tài liệu: Tóm tắt văn bản trên cơ sở phân loại ý kiến độc giả của báo mạng tiếng Việt
để xác định G tương đồng với P lần trở lên, làm thành tập thực thể có yếu tố ngữ
hoặc N. Vector G sẽ tương đồng với vector thành nghĩa, đặc trưng cho đối tượng chủ đề dùng cho
phần có giá trị độ tương đồng lớn hơn. Nếu hai tóm tắt ý kiến ở khía cạnh nội dung.
giá trị là bằng nhau chúng tôi xếp ý kiến vào lớp Rút trích các đối tượng có tên là một bài toán
trung hòa (neutral). khá phức tạp. Chúng tôi xem các bài báo là những
3.2 Tóm tắt văn bản văn bản chuẩn mực. Tức là, xác suất rất cao các
đối tượng có tên sẽ được viết hoa. Do đó, chúng
Mỗi ý kiến là của mỗi độc giả khác nhau và
tôi sẽ rút trích các đối tượng được đặt tên theo
thường ngắn gọn. Nhưng số lượng ý kiến rất lớn.
nguyên tắc là các từ viết hoa. Do đặc trưng đặt và
Do đó, việc tóm tắt các ý kiến là rất cần thiết cho
gọi tên trong tiếng Việt, một đối tượng có tên là
khai thác thông tin. Chúng tôi sẽ dùng phương
một cụm từ thì có thể được gọi bằng một hoặc hai
pháp tóm tắt rút trích (Extract Summarization) để
từ sau cùng, tính từ phải qua trái.
tóm tắt các ý kiến. Việc lượng giá độ quan trọng
sẽ dựa theo trọng số của các thực thể đặc trưng Ví dụ: Đối tượng “Vũ Lê Ngô” có thể được
cảm xúc và đặc trưng ngữ nghĩa. Bản tóm tắt là gọi là “Ngô”, “Lê Ngô”, hay đầy đủ là “Vũ Lê
những câu có độ quan trọng cao, số lượng câu tùy Ngô”. Do đó, với mỗi đối tượng có tên, chúng tôi
thuộc tỷ lệ rút gọn thiết lập cho hệ thống. sẽ tạo một tập con gồm các từ và cụm từ kết hợp
từ phải qua trái. Cụ thể, với “Vũ Lê Ngô” thì tập
3.3 Tóm tắt ý kiến dựa trên phân loại cảm xúc
con sẽ là {“Ngô”, “Lê Ngô”, “Vũ Lê Ngô”}.
Theo mô hình ở hình 1, mô đun Tóm tắt làm
Để rút trích các câu có nội dung quan trọng
việc sau quá trình phân cực cảm xúc. Mô đun này
cho bản tóm tắt, chúng tôi dựa vào hai tiêu chí:
sẽ rút gọn những ý kiến có nội dung dài, đế có thể
khai thác chúng hiệu quả hơn, mà không làm thay Tiêu chí về ngữ nghĩa của thực thể
đổi kết quả phân lớp của quá trình trước đó.
Các đại từ như: anh, chị, ông, bà, anh ấy,
ông ấy, chúng nó, họ, được bổ sung vào tập
Trang 56
TAÏP CHÍ PHAÙT TRIEÅN KH&CN, TAÄP 19, SOÁ K5- 2016
thực thể đặc trưng cho các đối tượng có tên của Độ quan trọng của câu xác định theo công
Bài báo. Cùng với các đối tượng có tên, các đại 2
n n 2
thức: W xi yi (3.2)
từ này nếu xuất hiện trong câu sẽ làm nội dung ý i 1 i 1
kiến hướng đến đối tượng chủ đề rõ ràng hơn.
Xét một ý kiến ví dụ về chiếc điện thoại
Chúng tôi không quan tâm đến tần suất Passport của hãng BlackBerry:
xuất hiện của thực thể ngữ nghĩa trong ý kiến.
“Chiếc Passport cực kỳ ấn tượng ngay từ
Mỗi thực thể xuất hiện được gán giá trị một (1)
cái nhìn đầu tiên. Phong cách thiết kế lịch lãm,
vào tập thực thể đặc trưng ngữ nghĩa của câu.
cuốn hút và cá tính làm cho chiếc BlackBerry
Các câu có nhiều yếu tố nội dung (liên kết này không lẫn với ai. ”
đến bài báo chủ đề) cũng cần được đánh giá cao
Các đặc trưng ngữ nghĩa, cảm xúc và trọng
trong chọn lựa để rút trích.
số của chúng trong mỗi câu của ý kiến như sau:
Tiêu chí về trọng số cảm xúc
Câu 1: x1 = 1 (“Passport”), y1 = 3 (“cực
Do trọng số cảm xúc của một thực thể có thể kỳ ấn tượng”).
có giá trị âm hoặc dương, nên khi tóm tắt, các câu
Câu 2: x1 = 1 (“BlackBerry”); y1 = 1
có nhiều thực thể cảm xúc (dương hoặc âm), sẽ
(“lịch lãm”), y2 = 1 (“cuốn hút”), y3 = 1 (“cá
được ưu tiên chọn. Tiêu chí này đạt được khi hệ
tính”).
thống chỉ lấy độ lớn của trọng số cảm xúc.
Tổng trọng số đặc trưng cả hai câu đều là 4;
Cụm từ có mức cảm xúc cao là rất quan
tổng trọng số đặc trưng cảm xúc cả hai câu đều là
trọng. Chủ đề có thể được nhấn mạnh bởi sự xuất
3. Độ quan trọng tính bằng công thức (3.2) cho
hiện thường xuyên của từ khóa nhất định, còn
mỗi câu lần lượt là: W1 = 10, W2 = 4. Độ quan
cảm xúc tổng thể có thể không tăng lên nếu lặp
trọng của câu 1 cao hơn do thực thể cảm xúc “cực
lại sự xuất hiện của một số thực thể. Do đó, câu
kỳ ấn tượng” có trọng số bằng 3 thể hiện vai trò
có số lượng ít các thực thể cảm xúc, nhưng chúng
khi được khuếch đại.
lại có vai trò lớn (trọng số cảm xúc cao) cần được
chọn cho bản tóm tắt để cung cấp thêm thông tin Sau khi tính độ quan trọng cho tất cả các câu
về cảm xúc. Để hệ thống ghi nhận yếu tố này, cần của ý kiến, chúng sẽ được xếp theo thứ tự giảm
khuếch đại các trọng số cảm xúc bằng phép bình dần của trọng số W. Hệ thống sẽ chọn từ trên
phương mỗi trọng số cảm xúc trước khi tính tổng. xuống số câu theo tỷ lệ tóm tắt người dùng mong
muốn. Với các ý kiến chỉ có một câu thì sẽ mặc
Từ các tiêu chí phân tích ở trên, bài báo đề
nhiên được chọn, không cần qua mô đun Tóm tắt.
xuất công thức (3.2) tính độ quan trọng của câu:
4. KẾT QUẢ THỰC NGHIỆM
Gọi: x1, x2, , xn là các trọng số ngữ
nghĩa của các thực thể trong câu, Với mô hình trình bày ở hình 1. Chúng tôi
tiến hành thử nghiệm trên tập dữ liệu gồm 220 ý
y1, y2, , yn là các trọng số cảm xúc của các
kiến đối với 7 bài báo thuộc chủ đề Kinh doanh
thực thể trong câu.
và chủ đề Xã hội, như phân loại của trang
VNExpress, địa chỉ
Đây là trang báo mạng có lượng người đọc rất
Trang 57
SCIENCE & TECHNOLOGY DEVELOPMENT, Vol 19, No.K5- 2016
lớn. Với những vấn đề được quan tâm, có bài báo Bảng 2 trình bày kết quả thực nghiệm:
được hàng nghìn độc giả đưa ý kiến tranh luận.
Bảng 2. Kết quả đánh giá ý kiến.
4.1 Nguồn ngữ liệu thực nghiệm
Độ đúng Độ chính Độ truy
Lớp
Số liệu dữ liệu thử nghiệm như trong bảng đắn (%) xác (%) hồi (%)
1.
Positive 80,41 75,73
Bảng 1. Số liệu nguồn ngữ liệu thực nghiệm
Neutral 74,57 68,18 50,00
Bài báo Số lượng Số ý kiến Negative 65,63 38,89
Chủ đề xã hội 3 79 Từ bảng 2, chúng tôi có một số nhận xét sau:
Độ đúng đắn (Accuracy) đạt 74,57% cho
Chủ đề kinh
4 141 thấy mô hình đề xuất là hiệu quả. Kết hợp Naïve
doanh
Bayes và Vector Space Model là mô hình khá
Tổng 7 220 triển vọng cho phân tích cảm xúc.
Bài báo có nhiều ý kiến nhất là 59, và ít nhất Độ chính xác (Precision) trong cả 3 lớp có
là 14 ý kiến. Trung bình mỗi bài báo có khoảng kết quả khá tốt, trên 65%. Độ chính xác của lớp
30 ý kiến. Lượng dữ liệu thử nghiệm này không negative thấp hơn nhiều so với lớp positive.
lớn, nhưng phù hợp để có thể kiểm nghiệm kỹ sự Độ truy hồi (Recall) lớp position có kết
vận hành của hệ thống trong giai đoạn đầu. quả khá tốt. Lớp neutral và negative có kết quả
4.2 Phương pháp đánh giá thực nghiệm khá thấp, nhất là negative.
Để đánh giá hiệu quả của mô hình đề xuất, Nguyên nhân Precision và Recall thấp là
chúng tôi sử dụng độ chính xác và độ truy hồi. do từ điển cảm xúc còn hạn chế, chưa phủ đầy đủ
các cách diễn đạt cảm xúc, nhất là dạng phủ định.
* Độ chính xác (Precision).
Khi xét riêng từng chủ đề, kết quả thực
c
precision
Được tính bởi công thức: b nghiệm được thể hiện ở bảng 3 và bảng 4.
(4.1)
* Độ truy hồi (Recall) Bảng 3. Kết quả đánh giá ý kiến chủ đề kinh
doanh
c
recall
Được tính bởi công thức: a
Độ đúng Độ chính Độ truy
(4.2) Lớp
đắn (%) xác (%) hồi (%)
Với a là số câu đúng của bản tóm tắt (theo
Positive 82,50 61,11
tập tóm tắt mẫu), b là số câu của bản tóm tắt do
máy tính thực hiện và c là số câu giao giữa a và Neutral 72,28 64,71 57,89
b. Negative 66,67 48,65
4.3 Phân loại cảm xúc
Trang 58
TAÏP CHÍ PHAÙT TRIEÅN KH&CN, TAÄP 19, SOÁ K5- 2016
Bảng 4. Kết quả đánh giá ý kiến chủ đề xã hội bình phương trước khi tính tổng. Nguyên tắc này
tương đương công thức 3.2, nhưng triệt tiêu yếu
Độ đúng Độ chính Độ truy
Lớp n 2
tố ngữ nghĩa ( xi ). Kết quả thể hiện ở bảng 6.
đắn (%) xác (%) hồi (%) i 1
Positive 78,95 91,84 Bảng 5. Kết quả đánh giá quá trình tóm tắt ý
Neutral 77,78 80,00 36,36 kiến kết hợp ngữ nghĩa và cảm xúc.
Negative 60,00 17,65 Số P R
Bài báo a b c
câu (%) (%)
Các kết quả này thể hiện:
Chủ đề xã hội 128 82 84 76 90,48 92,68
Độ đúng đắn của phân cực cảm xúc các
Chủ đề kinh
bài ý kiến chủ đề xã hội tốt hơn chủ đề kinh doanh 247 165 167 150 88,76 90,91
khá nhiều, đến trên 5.5%. Có thể nguyên nhân doanh
chính dẫn đến điều này là sự phù hợp của từ điển Tổng hợp 375 247 251 226 90,04 91,50
cảm xúc đối với chủ đề. Bên cạnh đó, với chủ đề
xã hội, chúng tôi nhận thấy độc giả thể hiện cảm Bảng 6. Kết quả đánh giá quá trình tóm tắt ý
xúc nhiều hơn so với chủ đề kinh doanh. Bài báo kiến chỉ dựa vào cảm xúc.
chủ đề kinh doanh nói về điện thoại thông minh
(smartphone), máy tính mới, nên thu hút nhiều Số P R
Bài báo a b c
độc giả trẻ. Còn các vấn đề xã hội có nhiều thành câu (%) (%)
phần và độ tuổi khác nhau quan tâm.
Chủ đề xã hội 128 82 84 73 86,90 89,02
Độ truy hồi của cả hai chủ đề là khá thấp.
Trong đó, độ truy hồi của lớp negative là thấp hơn
Chủ đề kinh
nhiều so với lớp positive và neutral. Nguyên nhân 247 165 167 146 87,43 88,48
doanh
như chúng tôi nói ở trên (mục 4.3) có thể cũng là
yếu tố chính trong trường hợp này. Tổng hợp 375 247 251 219 87,25 88,66
4.4 Tóm tắt trên cơ sở phân loại cảm xúc
Thực nghiệm tóm tắt ý kiến theo tỷ lệ rút
Tóm tắt văn bản thường dùng hai phép đo gọn 50%. Trong đó, ý kiến chỉ có một câu sẽ được
phổ biến để đánh giá hiệu năng là độ chính xác giữ nguyên, không qua mô đun Tóm tắt để xử lý.
(P) và độ truy hồi (R) (công thức 4.1 và 4.2).
Một số nhận xét từ kết quả ở hai bảng 5 và
Chúng tôi sẽ dùng hai độ đo này để đánh giá hiệu
6:
năng của mô đun Tóm tắt. Kết quả trình bày ở
bảng 5. Số câu đúng trong bản tóm tắt a không đổi
do tập dữ liệu không đổi. Số câu của bản tóm tắt
Để đánh giá sự hiệu quả của phương pháp
đề xuất với công thức 3.2, ngoài thử nghiệm với do máy tính thực hiện b là như nhau do chúng tôi
không thay đổi thiết lập tỷ lệ rút gọn ý kiến.
phương pháp trên, bài báo còn thử nghiệm tóm
tắt chỉ dựa trên yếu tố cảm xúc. Độ quan trọng Thành phần c, trong mọi trường hợp đánh
của câu được lượng giá bằng trọng số của các giá, đều có kết quả cao hơn nếu kết hợp cả yếu tố
thực thể cảm xúc. Các trọng số cảm xúc được cảm xúc và yếu tố ngữ nghĩa (bảng 5) khi so với
Trang 59
SCIENCE & TECHNOLOGY DEVELOPMENT, Vol 19, No.K5- 2016
trường hợp chỉ sử dụng yếu tố cảm xúc (bảng 6). tóm tắt. Kết quả thu được từ thực nghiệm cho
thấy đây là cách tiếp cận khá triển vọng cho nhu
Mô hình đề xuất đánh giá độ quan trọng
cầu khai thác ý kiến một cách hiệu quả với một
của câu ở phần 3.3, với công thức 3.2 (bảng 5)
đối tượng, hoặc vấn đề trên mạng.
cho kết quả tốt hơn trong mọi trường hợp. Bằng
kết quả thực nghiệm có thể kết luận phương pháp Trong tương lai, chúng tôi sẽ nâng cao khả
đề xuất bài báo đã trình bày có tính hiệu quả hơn. năng phân loại cảm xúc bằng cách phân chia
nhiều mức trong mỗi lớp cảm xúc. Khả năng tóm
5. KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
tắt ý kiến cũng được cải thiện hơn bằng việc khai
Bài báo đưa ra cách tiếp cận tóm tắt ý kiến thác ngữ nghĩa của thực thể kết hợp với xác định
dựa trên phân tích cảm xúc bằng cách kết hợp hai cảm xúc một cách hiệu quả hơn. Vấn đề rút trích
mô đun độc lập là Phân loại cảm xúc và Tóm tắt sẽ được quan tâm nghiên cứu hướng đến đặc
cho văn bản tiếng Việt. Với mô đun Tóm tắt, bài trưng của ngôn ngữ tiếng Việt nhằm nâng cao
báo đã đề xuất tiêu chí đánh giá độ quan trọng của hiệu quả của mô hình đã đề xuất.
câu dựa trên ngữ nghĩa của thực thể và trọng số
cảm xúc của câu (mục 3.3) để rút trích cho bản
Text summarization based on sentiment
classification of comments from online
Vietnamese newspaper
Nguyen Ngoc Duy 1
Phan Thi Tuoi 2
1 Posts and Telecommunications Institute of Technology
2 Ho Chi Minh city University of Technology,VNU-HCM
ABSTRACT
To know opinions of consumers regarding and social network. Today is an era of
products or public about important problems in information explosion through Internet and
society, then the best and most effective way is to social networking, so we are able to exploit
exploit information of community from Internet effectively information from the huge sources.
Trang 60
TAÏP CHÍ PHAÙT TRIEÅN KH&CN, TAÄP 19, SOÁ K5- 2016
The opinion of individuals is not only objective especially on side of the views and sentiments of
information but also contains emotions of the each opinion.
author. It through Internet has big power to make
To exploit the resource effectively to
a stream of public opinion that will impact on
summary information, the paper will propose a
network community. This is really an enormous
text Vietnamese summary model, not only based
subjective information resource, then it will have
on semantics but also based on sentiment
great meaning for many areas, such as
features. We have built a base model to solve this
economics, politics, society and culture if we
problem. We have exploited and developted
have methods and techniques to exploit it
methods summarizing and sentiment analysing
effectively. An automatic system classifying
for our proposed model. Our system can draw
comments based on sentiment is really necessary
Vietnamese comments from online Vietnamese
to exploit efficiently this resource. In order to
newspaper, analyze the sentiments of comments,
support users have more concise and appropriate
classify them and make a summary of opinions
information, then question of summary
effectively.
information should be studied and solved,
Keywords: Sentiment Analysis, Opinion Mining, Text Summarization, Sentiment Classification.
TÀI LIỆU THAM KHẢO
[1]. Bo Pang and Lillian Lee, "Opinion mining Opinion Mining Model on Product Reviews
and sentiment analysis", Foundations and in Vietnamese”, Workshop on Semantic
Trends in Information Retrieval, 2, 1-2, 1– Methods for Knowledge Discovery and
135 (2008). Communication, 23-33 (2011).
[2]. Balahur, A.; Kabadjov, M.;Steinberger, J.; [5]. Quang-Thuy Ha, Tien-Thanh Vu, Huyen-
Steinberger, R.; Montoyo, A., Trang Pham, Cong-To Luu, “An Upgrading
"Summarizing Opinions in Blog Threads", Feature-based Opinion Mining Model on
Proceedings of the 23rd Pacific Asia Vietnamese Product Reviews”, Proceedings
Conference on Language, Information and of the 7th International Conference on
Computation (PACLIC), 606-613 (2009). Active Media Technology, 173-185 (2011).
[3]. Vo Ngoc Phu, Phan Thi Tuoi, “Sentiment [6]. Tung-Hui Chiang, Jing-Shin Chang, Ming-
Classification using enhanced Contextual Yu Lin, Keh-Yih Su, “Statistical Models for
Valence Shifters”, Proceedings of Word Segmentation and Unknown Word
International Conference on Asian Resolution”, Proceedings of 1992 R.O.C.
Language Processing, Malaysia (2014). Computational Linguistics Conference
(ROCLING V), 121-146 (1992).
[4]. Tien-Thanh Vu, Huyen-Trang Pham, Cong-
To Luu, Quang-Thuy Ha, “A Feature-based
Trang 61 File đính kèm:
tom_tat_van_ban_tren_co_so_phan_loai_y_kien_doc_gia_cua_bao.pdf

