Đề tài Xây dựng dịch vụ thông báo sự kiện dựa trên mạng ngang hàng có cấu trúc

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Đặng Thị Nội XÂY DỰNG DỊCH VỤ THÔNG BÁO SỰ KIỆN DỰA TRÊN MẠNG NGANG HÀNG CÓ CẤU TRÚC Ngành: Công nghệ thông tin Chuyên ngành: Truyền dữ liệu và mạng máy tính Mã số: 60.48.15 LUẬN VĂN THẠC SĨ NGƯỜI HƯỚNG DẪN KHOA HỌC: TS.NGUYỄN HOÀI SƠN HÀ NỘI - 2011 LỜI CAM ĐOAN Tôi xin cam đoan kết quả đạt được trong luận văn là sản phẩm của riêng cá nhân tôi, không sao chép lại của người khác. Trong toàn bộ nội dung luận văn, những điều được trình bày hoặc là của cá nhân tôi, hoặc do tôi tổng hợp được từ các nguồn tài liệu khác nhau. Tất cả các tài liệu được tham khảo điều có xuất xứ rõ ràng, được trích dẫn hợp pháp và được liệt kê đầy đủ trong mục tài liệu tham khảo của luận văn. Tôi xin hoàn toàn chịu trách nhiệm và chịu mọi hình thức kỷ luật theo quy định cho lời cam đoan của mình. Hà Nội, ngày 15 tháng 06 năm 2011 Đặng Thị Nội LỜI CẢM ƠN Tôi xin bày tỏ lời cảm ơn chân thành tới các thầy cô giáo trong khoa Công nghệ thông tin - Đại học Công nghệ - ĐHQG Hà Nội, đặc biệt là các thầy cô giáo trong bộ môn Truyền dữ liệu và mạng máy tính, đã tạo điều kiện thuận lợi và giúp đỡ tôi trong thời gian tôi học tập. Tôi xin bày tỏ lòng biết ơn chân thành, lời cảm ơn sâu sắc đối với thầy giáo TS. Nguyễn Hoài Sơn đã tận tình hướng dẫn, định hướng cho tôi giải quyết các vấn đề trong luận văn. Tôi cũng xin bày tỏ lời cảm ơn đối với cha mẹ, gia đình, các đồng nghiệp và các bạn học viên lớp Cao học K14T2 đã động viên, giúp đỡ, góp ý cho tôi rất nhiều trong quá trình hoàn thành luận văn. Luận văn được tài trợ một phần từ đề tài nghiên cứu cơ bản mã số 102.01.25.09 Quỹ phát triển khoa học và công nghệ quốc gia (NAFOSTED). Hà Nội, ngày 15 tháng 06 năm 2011 Đặng Thị Nội MỤC LỤC LỜI MỞ ĐẦU 1 CHƯƠNG 1. MÔ HÌNH DỊCH VỤ THÔNG BÁO SỰ KIỆN 3 1.1. Tổng quan về dịch vụ thông báo sự kiện................................................................... 3 1.2. Ứng dụng của dịch vụ thông báo sự kiện .................................................................. 4 1.3. Hoạt động của dịch vụ thông báo sự kiện.................................................................. 6 1.4. Hạn chế của các dịch vụ hiện tại............................................................................... 9 1.5. Kết luận.................................................................................................................. 10 CHƯƠNG 2. SỬ DỤNG MẠNG NGANG HÀNG CÓ CẤU TRÚC TRONG DỊCH VỤ THÔNG BÁO SỰ KIỆN 11 2.1. Khái niệm mạng ngang hàng .................................................................................. 11 2.2. Ưu, nhược điểm của mạng ngang hàng ................................................................... 13 2.3. Phân loại mạng ngang hàng .................................................................................... 14 2.3.1. Mạng ngang hàng phi cấu trúc....................................................................... 14 2.3.2.1. Mạng ngang hàng tập trung .................................................................. 14 2.3.2.2. Mạng ngang hàng thuần túy ................................................................. 16 2.3.2.3. Mạng ngang hàng lai ghép.................................................................... 17 2.3.2. Mạng ngang hàng có cấu trúc ........................................................................ 19 2.3.2.1. Mạng ngang hàng có cấu trúc dựa trên DHT (Distributed Hash Table) . 21 2.3.2.2. Mạng ngang hàng có cấu trúc Chord .................................................... 23 2.4. Tại sao sử dụng mạng ngang hàng có cấu trúc trong hệ thống thông báo sự kiện .... 28 2.5. Kết luận.................................................................................................................. 29 CHƯƠNG 3. XÂY DỰNG DỊCH VỤ THÔNG BÁO SỰ KIỆN DỰA TRÊN MẠNG NGANG HÀNG CÓ CẤU TRÚC 30 3.1. Mục đích và yêu cầu của hệ thống .......................................................................... 30 3.2. Giải pháp thực hiện ................................................................................................ 31 3.3. Cấu trúc hệ thống ................................................................................................... 36 3.4. Hoạt động của hệ thống .......................................................................................... 37 3.5. Kết luận.................................................................................................................. 39 CHƯƠNG 4. THỰC THI VÀ ĐÁNH GIÁ CHƯƠNG TRÌNH 40 4.1. Triển khai hệ thống ................................................................................................ 40 4.1. Kết quả thử nghiệm ................................................................................................ 43 4.2. Nhận xét và đánh giá hệ thống................................................................................ 45 CHƯƠNG 5. KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN 46 5.1. Kết luận.................................................................................................................. 46 5.2. Hướng phát triển .................................................................................................... 46 TÀI LIỆU THAM KHẢO 47 DANH MỤC BẢNG BIỂU Bảng 1: Bảng định nghĩa các trường trong Finger Table....................................................... 25 Bảng 2: Kết quả thử nghiệm yêu cầu sự kiện cho các sự kiện đã được cung cấp .................. 44 Bảng 3: Kết quả thử nghiệm cung cấp sự kiện cho yêu cầu có sẵn trên mạng ...................... 44 DANH MỤC HÌNH ẢNH Hình 1: Cách thức hoạt động của hệ thống thông báo sự kiện................................................. 7 Hình 2: Trình tự thông báo sự kiện......................................................................................... 8 Hình 3: Mô hình Client/Server ............................................................................................. 11 Hình 4: Mô hình mạng ngang hàng P2P ............................................................................... 12 Hình 5: Các loại hình mạng ngang hàng ............................................................................... 14 Hình 6: Mạng ngang hàng tập trung thế hệ thứ nhất (Napster).............................................. 15 Hình 7: Mạng ngang hàng thuần túy (Gnutella 4.0, FreeNet)................................................ 16 Hình 8: Mạng ngang hàng lai ghép....................................................................................... 18 Hình 9: Mạng ngang hàng có cấu trúc .................................................................................. 20 Hình 10: Lưu giữ key trong mạng Chord.............................................................................. 26 Hình 11: Tìm kiếm khóa sử dụng bảng FingerTable ............................................................. 27 Hình 12: Mô hình luồng sự kiện........................................................................................... 31 Hình 13: Chi tiết một số sự kiện ........................................................................................... 34 Hình 14: Cấu trúc của hệ thống thông báo sự kiện................................................................ 36 Hình 15: Hoạt động của hệ thống thông báo sự kiện............................................................. 38 Hình 16: Mô hình thử nghiệm .............................................................................................. 40 Hình 17: Giao diện chức năng cung cấp sự kiện ................................................................... 41 Hình 18: Giao diện chức năng yêu cầu sự kiện ..................................................................... 41 Hình 19: Giao diện thông báo sự kiện .................................................................................. 42 Hình 20: Đồ thị kết quả thử nghiệm yêu cầu sự kiện cho các sự kiện đã được cung cấp........ 44 Hình 21: Đồ thị kết quả thử nghiệm cung cấp sự kiện cho yêu cầu có sẵn trên mạng ............ 45 1 LỜI MỞ ĐẦU Với sự phát triển của công nghệ thông tin ngày nay, lượng thông tin cung cấp vô cùng phong phú và đa dạng. Điều này cũng gây ra một số khó khăn khi người dùng không thể tìm được chính xác điều mà họ quan tâm. Do đó chúng tôi phát triển dịch vụ để có thể tìm được dữ liệu một cách chính xác và đầy đủ nhất có thể. Tuy hiện nay có nhiều dịch vụ thông báo sự kiện nhưng khi muốn tìm kiếm thông tin người dùng phải thực hiện câu truy vấn để hệ thống đưa ra kết quả phản hồi. Để đáp ứng được nhu cầu của người sử dụng là tìm kiếm thông tin chính xác và phù hợp với yêu cầu nên luận văn đã xây dựng một hệ thống giúp người dùng chỉ phải đăng ký sự kiện, khi sự kiện phát sinh hệ thống sẽ thông báo một cách kịp thời đến người đã đăng ký mà không phải thực hiện truy vấn. Do các máy chủ cung cấp dịch vụ hiện nay hoạt động rời rạc không có sự liên kết với nhau gây quá tải tại máy chủ khi có nhiều người cùng truy cập một thời điểm. Chính vì vậy nảy sinh nhu cầu liên kết các nhà cung cấp dịch vụ lại với nhau thành một mạng dịch vụ. Để liên kết các nhà cung cấp dịch vụ lại với nhau thì cần phải giải quyết các vấn đề về quản lý, lưu trữ, xử lý thông tin phân tán và tìm kiếm thông tin trên quy mô lớn. Do bản chất có thể quản lý, lưu trữ và tìm kiếm dữ liệu trên quy mô lớn và dễ dàng mở rộng nên mạng hàng hàng có cấu trúc là giải pháp tốt để liên kết các nhà cung cấp dịch vụ với nhau. Vì vậy, luận văn đã xây dựng một hệ thống thông báo sự kiện dựa trên mạng ngang hàng có cấu trúc lưu trữ và xứ lý thông tin phân tán (bản chất của mạng ngang hàng), tìm kiếm thông tin nhanh, có thể tìm kiếm dữ liệu trên quy mô lớn và hệ thống có thể dễ dàng mở rộng. Để đánh giá hiệu quả của hệ thống đã xây dựng, chúng tôi đã thử nghiệm và đánh giá thông qua môi trường mạng có giới hạn băng thông và độ trễ giống với môi trường mạng Internet hiện nay. Kết quả thử nghiệm cho thấy hệ thống xây dựng đã đáp ứng được các yêu cầu của dịch vụ thông báo sự kiện là cung cấp dịch vụ thời gian thực và có thể dễ dàng mở rộng hệ thống. Khoá luận được chia làm 5 chương: - Chương 1: Chương này sẽ giới thiệu về dịch vụ thông báo sự kiện đang được sử dụng và các yêu cầu của dịch vụ thông báo sự kiện sẽ xây dựng. 2 - Chương 2: Trong chương này sẽ giới thiệu tổng quan về mạng ngang hàng, ưu nhược điểm của mạng ngang hàng và lý do sử dụng mạng ngang hàng có cấu trúc để xây dựng hệ thống. - Chương 3: Chương này sẽ trình bày về ý tưởng, yêu cầu và cách thức xây dựng dịch vụ thông báo sự kiện dựa trên mạng ngang hàng có cấu trúc. - Chương 4: Trình bày về mô hình thực nghiệm để đánh giá hiệu quả của dịch vụ thông báo sự kiện đã xây dựng, đưa ra các nhận xét đánh giá kết quả thử nghiệm. - Chương 5: Kết luận và hướng phát triển tiếp theo của luận văn. 3 CHƯƠNG 1. MÔ HÌNH DỊCH VỤ THÔNG BÁO SỰ KIỆN Ngày nay, với sự tiến bộ của khoa học kỹ thuật, đặc biệt là sự phát triển nhanh chóng của công nghệ phần cứng đã có thể tạo ra các thiết có khả năng lưu trữ và xử lý lớn với giá thành nhỏ khiến cho số lượng người dùng sử dụng các thiết bị này tăng nhanh chóng. Chính vì số lượng các thiết bị này tăng nhanh dẫn đến nhu cầu của người dùng muốn sử dụng các dịch vụ gia tăng trên các thiết bị này lớn. Dịch vụ thông báo sự kiện là một dịch vụ gia tăng đang phát triển ngày nay. Các ứng dụng của dịch vụ này rất đa dạng, cung cấp cho thông tin nhanh và chính xác. 1.1. Tổng quan về dịch vụ thông báo sự kiện Dịch vụ thông báo sự kiện là một hạ tầng ứng dụng độc lập, hỗ trợ cho việc xây dựng các hệ thống dựa trên nền sự kiện. Các node cung cấp dịch vụ đến cơ sở hạ tầng và node yêu cầu sự kiện đăng ký với cơ sở hạ tầng để nhận các thông báo liên quan. Dịch vụ thông báo sự kiện cho phép yêu cầu sự kiện đồng thời cung cấp các sự kiện được yêu cầu thông qua mạng internet hoặc kết nối không dây. Dịch vụ này có thể cung cấp sự kiện một cách tự động khi có sự kiện phát sinh. Một dịch vụ thông báo sự kiện là dịch vụ kết nối vô danh giữa các bên lẫn nhau. Dịch vụ thu nhận, lọc và cung cấp thông tin về các sự kiện. Một hệ thông báo sự kiện thực hiện dịch vụ thông báo sự kiện cụ thể. Chúng ta đề cập đến dịch vụ thông báo sự kiện như là khái niệm nói chung và hệ thống thông báo sự kiện khi chú trọng vào việc thực hiện các dịch vụ được thiết kế. Nhiều công bố không cho một định nghĩa rõ ràng mà chỉ là một mô tả khái niệm về dịch vụ thông báo sự kiện, gọi đó là “Dịch vụ thông báo”, “dịch vụ Cung cấp/Yêu cầu”, hay “hệ thống đẩy”. [2] Dịch vụ này khác với các dịch vụ khác ở chỗ truy vấn của các dịch vụ trước đây được gửi lên và lưu trữ trước mà kết quả có thể chưa tồn tại nhưng người đăng ký truy vấn hy vọng sẽ nhận được thông báo khi kết quả trở thành có sẵn. Các dịch vụ hiện tại thích hợp cho các ứng dụng tìm kiếm mà nơi truy vấn đang chờ thông tin, đối lập với các ứng dụng truyền thống nơi các truy vấn cần phải tồn tại trước. Dịch vụ được sử dụng trong mạng ngang hàng P2P là một đề tài rất được chú ý trong những năm gần đây vì P2P có thể được áp dụng cho các mạng phân tán như là cách hiệu quả để chia sẻ tài nguyên, giảm thiểu chi phí máy chủ và phát huy hợp tác giữa các node. Thông thường một node cung cấp không biết ai đang quan tâm đến dữ 4 liệu của nó và ngược lại một node đăng ký cũng không biết ở đâu trong mạng dữ liệu của nó quan tâm là có sẵn. Vì vậy một vấn đề khó khăn là thiết kế cơ chế cho người đăng ký và nhà cung cấp để tìm thấy nhau một cách nhanh chóng và hiệu quả. Đơn giản là quảng bá các truy vấn đến tất cả các node trong mạng hoặc để sử dụng một trung tâm chỉ mục của tất cả các truy vấn được đăng ký và thông tin được công bố. Do đó, một loạt các cơ chế Cung cấp/ Đăng ký đã được đề xuất, dựa trên thông báo và dựa vào cấu trúc. Phương pháp tiếp cận đầu tiên được thiết kế cho tất cả các mạng phi cấu trúc, trong đó các nút Đăng ký và các node Cung cấp tìm thấy nhau, trao đổi thông tin bằng cách sử dụng các liên kết ngang hàng hiện có, thông thường dựa trên một số hình thức ngẫu nhiên. Một cách tiếp cận khác là tổ chức các nút vào một cấu trúc phủ và phát triển phương pháp Cung cấp/ Đăng ký trên đỉnh của nó. Ví dụ mạng phủ là dựa vào bảng phân tán DTH. Lợi thế của cách tiếp cận dựa vào thông báo là áp dụng cho mạng phi cấu trúc, trong khi phương pháp tiếp cận dựa trên cấu trúc được ưa chuộng cho hiệu quả tốt hơn. 1.2. Ứng dụng của dịch vụ thông báo sự kiện - Phát hiện và cảnh báo xâm nhập trong mạng không dây: Ứng dụng quan sát tất cả những hoạt động hệ thống, như các file log và những lưu lượng mạng thu thập được, theo dõi những cuộc gọi hệ thống, lịch sử kiểm tra và những thông điệp báo lỗi trên hệ thống… phát hiện người xâm nhập và gửi cảnh báo đến quản trị mạng - Hợp nhất hệ thống, thiết bị và các ứng dụng từ nhiều nhà cung cấp: truyền thông thông báo sự kiện đến các node yêu cầu các sự kiện quan trọng như: sự gián đoạn sản xuất, các mối đe dọa an ninh, và thiên tai, … Khi sự kiện xảy ra, cảnh báo được gửi đến nhóm được xác định trước hoặc các cá nhân, những người có thể phản ứng nhanh chóng với trạng thái và phản hồi. Tin nhắn được hỗ trợ trên hầu như bất kỳ loại điện thoại hoặc thiết bị nhắn tin, và thông qua email. - Gửi tin nhắn tức thời: Khi có bạn bè lên mạng, người sử dụng sẽ được gửi tin nhắn đến thông báo và có thể gửi tin nhắn, gửi mail, SMS, … cho nhau - Cung cấp tin tức: Người dùng có nhu cầu thông tin về một lĩnh vực nào đấy, hệ thống sẽ dựa vào yêu cầu của người dùng và gửi thông tin chính xác cho người dùng khi sự kiện về thông tin xẩy ra -[5] Hệ thống cá nhân hóa: Thuật ngữ cá nhân không bị giới hạn thông báo sự kiện, nó bao gồm thể hiện quan tâm của khách hàng trong hồ sơ cá nhân. Hồ sơ được 5 khách hàng định nghĩa rõ ràng hoặc hoàn toàn bởi các dữ liệu khai thác hoặc phân tích các hoạt động của khách hàng. Hệ thống cá nhân hóa hoạt động trên mức độ ứng dụng. - Dịch vụ cảnh báo: Thuật ngữ hệ thống thông báo hoặc dịch vụ thông báo được dùng chung khi nói về dịch vụ thông báo sự kiện, nó chú trọng đến ứng dụng của dịch vụ. Thuật ngữ “dịch vụ cảnh báo” hiện nay được sử dụng rộng rãi trong phạm vi của các thư viện kỹ thuật số; thuật ngữ “cảnh báo” cũng thường được đề cập đến dịch vụ đăng ký nhận tin qua email. Các ứng dụng ban đầu cho các dịch vụ cảnh báo được hệ thống nâng báo động trong trường hợp nguy hiểm, xâm nhập, hoặc trục trặc động cơ. - Dịch vụ Cung cấp/ Đăng ký: Các mô hình Cung cấp/ Đăng ký là một mô hình tương tác bao gồm cả nhà cung cấp thông tin (nhà cung cấp, nhà cung ứng) cung cấp dữ liệu vào hệ thống và các khách hàng (người đăng ký, người tiêu dùng) đăng ký các vấn đề quan tâm trong hệ thống. Vai trò của hệ thống Cung cấp/Đăng ký là cùng lúc gửi thông tin chính xác cho đúng khách hàng yêu cầu. Hệ thống Cung cấp/ Đăng ký được hệ thống thông báo sự kiện hỗ trợ nhà cung cấp chủ động gửi dữ liệu vào hệ thống. Thông thường các sự kiện và tin nhắn thông báo sự kiện không phân biệt. - Hệ thống đẩy: Thuật ngữ hệ thống đẩy đề cập đến hệ thống dựa trên Internet, mang đến nội dung cho khách hàng của nó thông qua các kênh dựa trên đối tượng. Việc triển khai hệ thống đẩy thường là hệ thống trung gian hỗ trợ hệ thống mức ứng dụng. - Hệ thống dựa trên phổ biến: Trong bối cảnh hệ thống thông tin dựa trên phổ biến, một hệ thống thông báo sự kiện là một nhà môi giới thông tin, mua lại thông tin từ các nguồn dữ liệu, làm tăng thêm giá trị và phân phối thông tin cho khách hàng (bằng mạng thông tin của khách hàng). Thuật ngữ này tập trung vào việc phân phối các tài liệu không phải là quan sát và lọc các sự kiện. - Hệ thống lọc thông tin: Hệ thống như là một hệ thống thông báo sự kiện có các giao dịch đặc biệt là các tài liệu mới hoặc thay đổi. Các dịch vụ này còn được gọi là hệ thống lọc tài liệu. - Hệ thống định tuyến dựa trên nội dung: Thuật ngữ này dùng để chỉ các hệ thống truy hồi thông tin trong đó các truy vấn được định tuyến đến các máy chủ có sẵn dựa trên sự phù hợp mong đợi của máy chủ để truy vấn. - Hệ thống giám sát (sự kiện): Thuật ngữ này dùng để chỉ các hệ thống giám sát nguồn sự kiện nào đó, lọc các sự kiện và gửi thông báo. Nhìn chung, các nguồn sự kiện là những nguồn quan sát bị động như các cảm biến và đầu đo. Các ứng dụng tự 6 quan sát, giám sát chương trình máy tính để giao tiếp trong hệ thống phân phối và ứng dụng web. - Cơ sở hạ tầng dựa trên sự kiện: Cơ sở hạ tầng dựa trên sự kiện hỗ trợ trao đổi tin nhắn không đồng bộ giữa các đối tượng trong một môi trường phân phối. Xác định khả năng tương tác độc lập, hệ thống không đồng nhất và xây dựng một giao tiếp chương trình đến chương trình ở cấp độ hệ thống - Dịch vụ nhận thức: Thuật ngữ nhận thức mô tả điều chỉnh tự động các thông tin hiện tại của nhà cung cấp và khách hàng. Khách hàng nhận thức tất cả các thay đổi của nhà cung cấp, hoặc là đối tượng mới, hoặc là xóa các đối tượng, hoặc là sửa đổi các đối tượng. - Dịch vụ xử lý sự kiện: Thuật ngữ dịch vụ xử lý sự kiện mô tả một dịch vụ được quy định trong Java 1.3. Hoạt động của dịch vụ thông báo sự kiện Hệ thống hoạt động dựa trên khả năng lưu trữ của mạng ngang có cấu trúc Chord. Khi người dùng yêu cầu một sự kiện nào đó, hệ thống sẽ tạo ra khóa tương ứng với một cặp (thuộc tính - giá trị) của sự kiện yêu cầu và gửi yêu cầu sự kiện đến một node gọi là node phụ trách khóa. Node phụ trách khóa sẽ lưu lại sự kiện yêu cầu, khóa và địa chỉ của node đã yêu cầu sự kiện. Khi có sự kiện tương ứng với yêu cầu, node phụ trách khóa sẽ gửi thông tin sự kiện cho node đó theo đúng địa chỉ của node yêu cầu sự kiện mà nó đã lưu. Sự kiện khi được cung cấp, hệ thống sẽ tạo ra các cặp (thuộc tính - giá t