Home > Nghiên cứu > Hệ thống hỏi đáp tự động sử dụng trích rút quan hệ ngữ nghĩa trong kho văn bản tiếng Việt

Hệ thống hỏi đáp tự động sử dụng trích rút quan hệ ngữ nghĩa trong kho văn bản tiếng Việt

Tác giả: Phạm Thị Thu Uyên, Nguyễn Đức Vinh, Nguyễn Đạo Thái

Công trình này sử dụng mô hình hệ thống hỏi đáp tự động dựa vào kĩ thuật trích rút quan hệ ngữ nghĩa hai ngôi, đã đề xuất kết hợp hai phương pháp snowball của Agichtein, Gravano [AG00] và phương pháp sử dụng máy tìm kiếm của Ravichandran, Hovy [RH02] để trích rút các mẫu quan hệ ngữ nghĩa trong tập văn bản tiếng Việt. Kết quả ban đầu của mô hình đạt khả quan.

I. Giới thiệu

Tìm kiếm thông tin (Information Retrieval – IR) là việc tìm kiếm thông tin dựa trên các nguồn dữ liệu có sẵn. Các hệ thống tìm kiếm thông tin nhận đầu vào là các từ khóa và trả về tập tài liệu có chứa các từ khóa đó. Kết quả trả về của các máy tìm kiếm (một loại hệ thống tìm kiếm thông tin) thường là rất lớn có khi lên tới hàng nghìn trang web. Người sử dụng muốn có được thông tin mình cần phải tự duyệt và đọc lần lượt qua các trang web để xác định được thông tin mình cần. Điều đó sẽ tốn nhiều công sức và thời gian cho việc tìm kiếm thông tin. Ví dụ, nếu chúng ta muốn biết “Ai là người sáng lập ra tập đoàn Microsoft?”, thì với hệ thống IR, chúng ta sẽ tìm được một tập các tài liệu liên quan đến cụm từ “người sáng lập ra tập đoàn Microsoft”. Sau đó, dựa vào tập tài liệu này, chúng ta tự dò tìm câu trả lời. Một ví dụ khác, một người khách du lịch muốn tìm hiểu những thông tin về một địa điểm nào đó. Nếu người đó sử dụng hệ thống tìm kiếm thông tin thì kết quả là những thông tin chung chung và cần phải dò tìm để nắm được các thông tin mà mình cần tìm hiểu; hoặc muốn có được câu trả lời chính xác và chi tiết, người khách cần tốn kinh phí để nhờ đến sự giúp đỡ của một dịch vụ nào đó.

Vì vậy, yêu cầu đặt ra là cần phải có một hệ thống hỏi đáp tự động để có thể xem như là một công cụ khai thác thông tin một cách trực tiếp hơn, tìm kiếm cho người dùng câu trả lời ngắn gọn, chính xác chứ không phải là một tập tài liệu, đồng thời đảm bảo về mặt kinh tế và thuận lợi cho việc sử dụng của người dùng ở bất cứ hoàn cảnh nào.

Hiện nay, nghiên cứu và xây dựng hệ thống hỏi đáp được rất nhiều nhà nghiên cứu cũng như các công ty lớn hàng đầu trên thế giới quan tâm. Nhiều hội nghị lớn về xử lý ngôn ngữ tự nhiên được tổ chức hàng năm như ACL, Coling, Text Retrieval Conference(Trec)… đều có những phần dành riêng cho những nghiên cứu liên quan đến hệ thống hỏi đáp. Bên cạnh đó các sản phẩm thương mại liên quan đến hệ thống hỏi đáp cũng được các công ty phát triển như: Yahoo Answers của Yahoo; Google Question and Answers của Google (sản phẩm này mới chỉ phát triển trên tiếng Nga), Live QnA của Microsoft… và đặc biệt là hai sản phẩm Anwsers.com của Answers Corp doanh thu mỗi năm là 9.5 triệu USD và Ask của InterActive Corp doanh thu mỗi năm 227 triệu USD.

Đối với Việt Nam, việc nghiên cứu, xây dựng và phát triển một hệ thống hỏi đáp tự động dành riêng cho tiếng Việt là một vấn đề cần thiết. Tuy nhiên, đối với xử lý ngôn ngữ tiếng Việt, các công cụ để phân tích ngôn ngữ cũng như các tài nguyên ngôn ngữ học phục vụ cho quá trình xử lý còn chưa đầy đủ hoặc đang hoàn thiện, điều này đã ảnh hưởng không nhỏ đến các nghiên cứu trong lĩnh vực xử lý ngôn ngữ tự nhiên của chúng ta hiện nay. Chính từ yêu cầu thực tế như vậy, chúng tôi đã tập trung vào việc nghiên cứu để đưa ra một mô hình xử lý cho hệ thống hỏi đáp tự động phù hợp với ngôn ngữ tiếng Việt. Có rất nhiều phương pháp được đề cập, tuy nhiên qua quá trình khảo sát, chúng tôi nhận thấy việc trích rút mối quan hệ ngữ nghĩa là phương pháp phù hợp nhất hiện nay đối với kho văn bản tiếng Việt. Trong báo cáo này, chúng tôi tiến hành xây dựng hệ thống hỏi đáp tự động sử dụng phương pháp rút trích mẫu quan hệ ngữ nghĩa hai ngôi bằng cách kết hợp giữa hai phương pháp rút trích mẫu Snowball của Agichtein, Gravano [AG00] và phương pháp sử dụng máy tìm kiếm của Ravichandran, Hovy [RH02] và áp dụng kĩ thuật này vào việc xây dựng nên hệ thống hỏi đáp tự động cho tiếng Việt

Phần còn lại của báo cáo được tổ chức thành sáu mục. Mục thứ hai giới thiệu tổng quan hệ thống hỏi đáp tự động (question answering system), một số vấn đề cần quan tâm khi xây dựng hệ thống, các cách phân loại hệ thống hỏi đáp và các hướng tiếp cận từ trước tới nay. Mục tiếp theo trình bày các phương pháp phân tích câu hỏi và trích xuất câu trả lời. Mục thứ bốn trình bày về mối quan hệ ngữ nghĩa và các phương pháp để trích xuất mỗi quan hệ ngữ nghĩa hai ngôi. Mục thứ năm theo trình bày chi tiết về mô hình mà chúng tôi áp dụng vào để xây dựng hệ thống hỏi đáp tự động và những kết quả thực nghiệm mà chúng tôi đạt được. Mục cuối cùng trình bày kết quả và hướng nghiên cứu tiếp theo.

II. Tổng quan về hệ thống hỏi đáp tự động

Hệ thống hỏi đáp tự động là hệ thống được xây dựng để thực hiện việc tìm kiếm tự động câu trả lời từ một tập lớn các tài liệu cho câu hỏi đầu vào một cách chính xác. Từ những năm 1960, các hệ thống hỏi đáp đầu tiên đã được ra đời. Điểm chung trong các hệ thống này là sử dụng cơ sở dữ liệu được thiết kế bằng tay bởi các chuyên gia trong lĩnh vực được chọn [MJ08]. Giai đoạn những năm 1970- 1980, có nhiều dự án lớn hướng đến việc “hiểu văn bản” và xây dựng hệ thống hỏi đáp dựa trên các mô hình ngôn ngữ thống kê. Hội nghị TREC diễn ra hàng năm (bắt đầu từ cuối những năm 1990) thu hút sự tham gia của rất nhiều các nhóm nghiên cứu cũng đã góp phần rất lớn trong việc thúc đẩy các nghiên cứu về hệ thống hỏi đáp. Cuối những năm 1990, world wide web ra đời và nhanh chóng phát triển bùng nổ trở thành một kho ngữ liệu khổng lồ. Các nhà nghiên cứu về hệ thống hỏi đáp cũng bắt đầu khai thác web như là một nguồn cho việc tìm kiếm câu trả lời. Các kĩ thuật mới đòi hỏi tốc độ cao, khả năng xử lý lượng dữ liệu web lớn đang rất được quan tâm.

II.1. Một số vấn đề quan tâm khi thiết kế hệ thống hỏi đáp

Năm 2002, một nhóm các nhà nghiên cứu đã đưa ra một số vấn đề cần quan tâm như sau [JCV02]:

  • Loại câu hỏi: Câu hỏi trong ngôn ngữ tự nhiên rất đa dạng, ẩn ý, nhập nhằng và phụ thuộc vào ngữ cảnh. Một số loại câu hỏi đang được quan tâm trong hệ hống hỏi đáp như câu hỏi về sự vật, sự kiện, định nghĩa, danh sách, quá trình, cách thức, lý do… Mỗi loại câu hỏi có những đặc trưng và khó khăn riêng, đòi hỏi phải có các chiến lược để trả lời chúng.
  • Xử lý câu hỏi: Cùng một dạng câu hỏi có thể được diễn đạt qua nhiều cách khác nhau. Một mô hình ngữ nghĩa cần xây dựng có khả năng xác định được các câu hỏi tương tự, các quan hệ ngữ pháp, đồng thời có thể chuyển một câu hỏi phức tạp thành chuỗi các câu hỏi đơn giản hơn.
  • Ngữ cảnh và hệ thống hỏi đáp: Câu hỏi thường được gắn với ngữ cảnh và câu trả lời cũng được đưa ra trong một ngữ cảnh xác định. Việc sử dụng các thông tin về ngữ cảnh giúp hệ thống hỏi đáp hiểu câu hỏi một cách rõ ràng, loại bỏ được các nhặp nhằng và tăng tính chính xác khi người dùng hỏi một loạt các câu hỏi liên quan đến cùng một ngữ cảnh.
  • Nguồn dữ liệu cho hệ thống hỏi đáp: Nguồn dữ liệu cho hệ thống hỏi đáp có thể là tập nhỏ các tài liệu của tổ chức, dữ liệu thu thập từ các nguồn như sách, báo chí hay các trang web. Tuy nhiên cần đảm bảo nguồn dữ liệu có độ tin cậy cao.
  • Trích xuất câu trả lời: Việc trích xuất câu trả lời phụ thuộc vào nhiều yếu tố: độ phức tạp của câu hỏi, loại câu hỏi có được từ quá trình xử lý câu hỏi, dữ liệu chứa câu trả lời, phương pháp tìm kiếm và ngữ cảnh,… nhưng đảm bảo yêu cầu câu trả lời cho người dùng phải chính xác.

Tài liệu tham khảo

  1. [AG00] Eugene Agichtein, Luis Gravano (2000). Snowball: Extracting Relations from Large Plain-Text Collections, In proceeding of the ACL Conference, 2000, Department of Computer Science, Columbia University.
  2. [RH02] Deepak Ravichandran, Eduard Hovy (2002). Learning Surface Text Patterns for a Question Answering System, In Proceedings of the ACL Conference, 2002, Information Sciences Institute University of Southern California.
  3. [JCV02] Burger, John; Cardie, Claire; Chaudhri, Vinay; Gaizauskas, Robert; Harabagiu, Sanda; Israel, David; Jacquemin, Christian; Lin, Chin-Yew; Maiorano, Steve; Miller, George; Moldovan, Dan; Ogden, Bill; Prager, John; Riloff, Ellen; Singhal, Amit; Shrihari, Rohini; Strzalkowski, Tomek; Voorhees, Ellen; Weischedel, Ralph (2002). “Issues, Tasks and Program Structure to Roadmap Research in Question & Answering(Q&A)” http://www-nlpir.nist.gov/projects/duc/papers/qa.Roadmap-paper_v2.doc

  1. Phuong
    July 3rd, 2010 at 16:38 | #1

    Bài báo của các thầy cô rất hay, em đang nghiên cứu về lĩnh vực Công nghệ tri thức và muốn tìm hiểu về hệ thống hỏi đáp tự động, quý thầy cô có thể cho em tham khảo đẩy đủ nội dung bài viết đó được không ạ. Em phải làm gì để tham khảo được bài viết đó. Trang web của nhóm các thầy cô đã được chuyển sang sử dụng WordPress. Làm thế nào để em được cấp tài khoản truy cập.
    Em cảm ơn và mong sớm nhận được phản hồi

  2. phuong
    September 21st, 2010 at 19:57 | #2

    cho em hỏi khái niệm và ý nghĩa của kế hoạch kinh doanh.

  3. phuong
    September 21st, 2010 at 19:59 | #3

    và kế hoạch kinh doanh gồm những bảng nao, mỗi bảng có ý nghĩa như thế nao?

  4. Trần Mai Vũ
  5. xuanhau
    September 24th, 2010 at 15:56 | #5

    tôi muốn download bài báo này có được ko?
    cảm ơn

  6. Sỹ
    November 13th, 2010 at 12:02 | #6

    Chào thầy Trần Mai Vũ

    Bài toán trích xuất từ khóa trong trang web tiếng Việt và áp dụng để xây dựng hệ thống quảng cáo ngữ cảnh

    Em đang nghiên cứu vấn đề trích xuất từ khóa tiếng Việt. Thầy có thể cho em xin bài viết của bạn Chu Anh Minh khóa 50.
    Email của em: sytvq@yahoo.com

    Cảm ơn thầy

  7. Hâu
    October 9th, 2011 at 09:39 | #7

    Bài báo này thầy vũ trình bày ở hội nghị nào, ở đâu vậy thầy

  8. December 16th, 2011 at 13:38 | #8

    giải thích vì sao chăn nuôi bò,khai thác và nuôi trồng thủy sản là thế mạnh của vùng duyên hải nam trung bộ

  9. Xin hỏi về bài báo
    August 11th, 2012 at 13:29 | #9

    Xin các thầy, cô tác giả của bài báo gửi cho em đầy đủ bài báo này được không ạ. Em xin cảm ơn

  10. Việt Cường
    October 5th, 2014 at 08:16 | #10

    Em chào thầy ạ , hiện tại em đang tìm hiểu về hệ Q&A và đang thử nghiệm cài đặt theo mô tả của bài báo “An Experimental Study of Vietnamese Question Answering System” mà thầy và các thầy cô khác công bố . Tuy nhiên , vấn đề của em hiện tại là sau khi crawl dữ liệu về và thực hiện generate pattern thì lại gần như không thu được những mẫu tốt như trong bài báo .
    Vậy hi vọng thầy có thể chỉ giúp vấn đề của em , hoặc có thể cho em một tài liệu nào đó chi tiết hơn không ạ . Em xin cám ơn ạ !

  1. No trackbacks yet.