Xác suất thống kê

Bài giảng môn học tập Lý tngày tiết thông tin do giảng viên biên soạn tất cả tất cả 15 bài học kinh nghiệm, cung ứng cho người học tập một số văn bản như: Giới thiệu chung về lên tiếng và lý thuyết ban bố, một trong những quan niệm cơ bạn dạng, lượng tin, Entropy, mã hiệu, mã hóa buổi tối ưu mối cung cấp tránh rộc không nhớ,... Mời chúng ta cùng tìm hiểu thêm.




Bạn đang xem: Xác suất thống kê

*



Xem thêm: Angularjs Là Gì ? Phân Biệt Angular Và Angular Js? Tổng Quan Về Angularjs

Trường Đại học tập Bách khoa Khoa Công Nghệ Thông Tin BÀI GIẢNG MÔN HỌC LÝ THUYẾT THÔNG TIN Giảng Viên: Hồ Văn uống Quân E-mail: hcquan


Xem thêm: Bình Tây Đại Nguyên Soái Là Danh Hiệu Nhân Dân Phòng Cho Thủ Lĩnh Nào

dit.hcmut.edu.vnWeb site: http://www.dit.hcmut.edu.vn/~hcquan/student.htm NỘI DUNG MÔN HỌC„ Bài 1 Giới thiệu„ Bài 2 Một số tư tưởng cơ bản„ Bài 3 Chuẩn bị toán thù học„ Bài 4 Lượng tin„ Bài 5 Entropy„ Bài 6 Mã hiệu„ Bài 7 Mã hóa tối ưu mối cung cấp tránh rốc không nhớ„ Bài 8 Mã hóa mối cung cấp phổ quát„ Bài 9 Kênh tránh rạc không ghi nhớ, lượng tin cứu giúp Trang 2 Lý thuyết Thông tin - Khoa Công Nghệ Thông Tin NỘI DUNG MÔN HỌC (tt)„ Bài 10 Mã hóa chống nhiễu, định lý kênh„ Bài 11 Mã khối hận đường tính„ Bài 12 Trung tâm toán thù học của mã hóa phòng nhiễu„ Bài 13 Mã vòng„ Bài 14 Giới thiệu về mật mã hóa„ Bài 15 Một số sự việc nâng cấp Trang 3 Lý tmáu tin tức - Khoa Công Nghệ Thông Tin TÀI LIỆU THAM KHẢO1. Information Theory - Robert B.Ash, Nhà xuất bạn dạng Dover, Inc, 1990.2. Introduction lớn Information Theory - Masud Mansuripur, Nhà xuất bản Prentice–Hall, Inc, 1987.3. A Mathematical Theory of Communication - C. E. Shannon, Tạp chí Bell System Technical, số 27, trang 379–423 với 623– 656, mon 7 và mon 10, 1948.4. Cơ sở Lý tmáu truyền tin (tập một với hai) - Đặng Văn Ctiết, Nguyễn Tuấn Anh, Nhà xuất bản giáo dục và đào tạo, 1998. Trang 4 Lý thuyết Thông tin - Khoa Công Nghệ Thông Tin HÌNH THỨC ĐÁNH GIÁ„ Sẽ bao gồm thông báo ví dụ đến từng khóa học. Tuy nhiên, thường là có vẻ ngoài như dưới.„ Thi trắc nghiệm „ Giữa kỳ: 30 câu / 45 phút ít „ Cuối kỳ: 45 câu / 90 phút „ Được phép coi tư liệu trong 2 tờ giấy A4„ Làm bài bác tập bự cộng điểm (không bắt buộc) „ Nộp bài xích tập lớn và báo cáo vào cuối học tập kỳ „ Cộng buổi tối đa 2 điểm Trang 5 Lý tmáu tin tức - Khoa Công Nghệ Thông Tin CÁC MÔN LIÊN QUAN„ Lý tngày tiết xác suất„ Kỹ thuật truyền số liệu„ Xử lý bộc lộ số Trang 6 Lý tmáu Thông tin - Khoa Công Nghệ Thông Tin Bài 1 Giới thiệu1.1 Thông tin là gì?1.2 Vai trò của thông tin1.3 Lý thuyết thông tin phân tích đông đảo gì?1.4 Những áp dụng của kim chỉ nan thông tin1.5 Lý thuyết đọc tin – Lịch sử sinh ra cùng quan điểm khoa học hiện đại Trang 7 Lý ttiết tin tức - Khoa Công Nghệ Thông Tin tin tức là gì?„ Một vài ví dụ „ Hai fan nói chuyện cùng nhau. Cái cơ mà điều đình giữa họ call là thông tin. „ Một tín đồ đã coi tivi/nghe đài/lướt web đọc báo, fan đó đã dìm báo cáo từ bỏ đài phát/báo. „ Quá trình huấn luyện vào lớp. „ Các máy vi tính nối mạng với điều đình dữ liệu với nhau. „ Máy tính nạp lịch trình, dữ liệu từ bỏ đĩa cứng vào RAM để triển khai. Trang 8 Lý tngày tiết tin tức - Khoa Công Nghệ Thông Tin Thông tin là gì? (tt)„ Nhận xét „ Thông tin là loại được truyền tự đối tượng người dùng này mang lại đối tượng khác nhằm báo một “điều” nào đó. Thông tin chỉ tất cả ý nghĩa Khi “điều” đó bên nhận không biết. „ tin tức xuất hiện dưới nhiều dạng âm tkhô hanh, hình hình ảnh, ... Những dạng này chỉ cần “vỏ bọc” đồ vật hóa học đựng biết tin. “Vỏ bọc” là phần “xác”, biết tin là phần “hồn”. „ Ngữ nghĩa của báo cáo chỉ có thể phát âm được khi mặt dìm đọc được bí quyết biểu diễn ngữ nghĩa của mặt vạc. „ giữa những phương tiện để diễn tả biết tin là ngữ điệu. „ Có nhị tâm lý của thông tin: truyền và tàng trữ. Môi ngôi trường truyền/tàng trữ được Hotline phổ biến là môi trường thiên nhiên chứa tin hay kênh tin. Trang 9 Lý ttiết Thông tin - Khoa Công Nghệ Thông Tin Vai trò của thông tin„ Các đối tượng người sử dụng sinh sống luôn luôn mong muốn gọi về quả đât bao quanh, nhằm ham mê nghi và trường thọ. Đây là 1 quá trình quan lại gần kề, mừng đón, đàm phán với xử lý thông tin tự môi trường thiên nhiên bao phủ.„ Thông tin thay đổi một nhu cầu cơ bản, một điều kiện cần cho sự mãi mãi cùng cách tân và phát triển.„ Khi KHKT, XH ngày dần phát triển, công bố càng biểu đạt được mục đích đặc biệt quan trọng của chính nó so với chúng ta.„ lấy ví dụ như, hành động xuất phát điểm từ Để ý đến, ví như quan tâm đến đúng, thì hành động new đúng. Suy suy nghĩ lại chịu tác động trường đoản cú những nguồn báo cáo được tiếp nhận. Vì vậy ban bố rất có thể bỏ ra phối hận đến xem xét với kết quả là hành vi của con fan. Trang 10 Lý tngày tiết tin tức - Khoa Công Nghệ Thông Tin LTTT nghiên cứu phần đông sự việc gì? „ Tại góc độ khoa học chuyên môn, LTTT nghiên cứu nhằm mục đích tạo nên một “đại lý hạ tầng” tốt mang đến việc media tin chính xác, nhanh chóng và an toàn; tàng trữ công bố một biện pháp công dụng. „ Ở những khía cạnh nghiên cứu và phân tích khác LTTT phân tích những vấn đề về phong thái tổ chức triển khai, màn biểu diễn với truyền đạt báo cáo, với tổng quát là các sự việc về giải pháp xử lý công bố.„ Ba lĩnh vực nghiên cứu và phân tích cơ phiên bản của môn học tập „ Mã hoá chống nhiễu „ Mã hoá buổi tối ưu (xuất xắc nén dữ liệu) „ Mật mã hoá Trang 11 Lý tmáu Thông tin - Khoa Công Nghệ Thông Tin Những vận dụng của LT thông tin„ Cuộc biện pháp mạng thông báo đã xẩy ra, sự cách tân và phát triển khỏe khoắn của những phương tiện đi lại bắt đầu về truyền thông, lưu trữ thông tin làm đổi khác ngày càng thâm thúy làng hội bọn họ.„ LTTT đóng góp một phương châm quyết định trong sự phát triển này bằng cách cung ứng các đại lý triết lý với một cái quan sát triết học tập thâm thúy so với đều bài toán thù new với thử thách mà chúng ta chạm trán – bây giờ với tương lai.„ Những ứng dụng phổ cập của LTTT là truyền thông media và cách xử trí báo cáo gồm những: media, nén, bảo mật, tàng trữ, ...„ Các phát minh của LTTT đã được áp dụng trong vô số nhiều nghành như thứ lý, ngôn ngữ học, sinch đồ vật học tập, kỹ thuật máy vi tính, tư tưởng học, chất hóa học Trang 12 Lý thuyết Thông tin - Khoa Công Nghệ Thông Tin Những áp dụng của LT công bố (tt)„ Mối tình dục thân LTTT cùng những thống kê đã được tìm thấy, những phương pháp mới về đối chiếu thống kê lại dựa vào LTTT đã có được đề xuất.„ Ứng dụng vào quản lý kinh tế. Ví dụ, định hướng chi tiêu về tối ưu xuất hiện thêm đôi khi với kim chỉ nan mã hóa mối cung cấp tối ưu.„ Ứng dụng vào ngôn ngữ học tập.„ Ứng dụng mang lại tư tưởng thực nghiệm cùng đặc biệt là nghành nghề dịch vụ dạy cùng học tập. Trang 13 Lý ttiết Thông tin - Khoa Công Nghệ Thông Tin Lịch sử hình thành„ Cuộc cách mạng lớn số 1 về phong thái quan sát quả đât công nghệ là chuyển hướng làn phân cách tự tmáu ra quyết định Laplacian mang lại tranh ảnh Phần Trăm của tự nhiên và thoải mái.„ Thế giới chúng ta đang sinh sống và làm việc trong các số ấy đa phần là Xác Suất. Kiến thức của họ cũng là một trong những dạng Xác Suất.„ LTTT nổi lên sau khi cơ học tập những thống kê và lượng tử sẽ cải tiến và phát triển, với nó phân tách bửa với đồ lý thống kê lại các quan niệm cơ bạn dạng về entropy.„ Theo lịch sử dân tộc, những định nghĩa cơ bản của LTTT như entropy, đọc tin cứu giúp được có mặt từ các việc nghiên cứu những hệ thống mật mã rộng là từ các việc phân tích những kênh truyền thông.„ Về khía cạnh tân oán học tập, LTTT là một nhánh của triết lý Xác Suất với các quy trình bỗng nhiên (stochastical process). Trang 14 Lý tngày tiết tin tức - Khoa Công Nghệ Thông Tin Lịch sử có mặt (tt)„ Quan trọng và bao gồm chân thành và ý nghĩa nhất là dục tình link giữa LTTT với thiết bị lý thống kê lại.„ Trong một thời gian nhiều năm trước khi LTTT được có mặt, L. Boltzman và tiếp đến là L.Szilard đã tiến công đồng ý nghĩa của lên tiếng cùng với tư tưởng sức nóng hễ học tập của entropy. Một mặt khác, D. Gabor cho là “kim chỉ nan truyền thông đề nghị được xem nlỗi một nhánh của vật lý”.„ C. E. Shannon là thân phụ đẻ của LTTT. Trang 15 Lý thuyết tin tức - Khoa Công Nghệ Thông Tin Bài 2 Một số định nghĩa cơ bản2.1 tin tức (Information)2.2 Mô hình của các quy trình truyền tin2.3 Các các loại hệ thống truyền tin – Liên tục và tránh rạc2.4 Rời rộc hoá Trang 16 Lý thuyết tin tức - Khoa Công Nghệ Thông Tin Thông tin„ Thông tin là một trong những quan niệm trừu tượng, phi đồ vật chất cùng siêu cực nhọc được quan niệm đúng đắn. Hai quan niệm về biết tin.„ tin tức là sự việc cảm hiểu của con bạn về trái đất xung quanh trải qua sự xúc tiếp cùng với nó.„ Thông tin là một trong hệ thống các tin báo với nhiệm vụ giúp loại trừ sự ko chắc hẳn rằng (uncertainty) vào trạng thái của khu vực thừa nhận tin. Nói nlắp gọn gàng, lên tiếng là mẫu mà lại thải trừ sự không chắc chắn rằng.„ Định nghĩa đầu chưa nói lên được bản chất của thông báo. Định nghĩa máy hai phân tích hơn về thực chất của lên tiếng với được dùng để làm định lượng công bố trong kỹ thuật. Trang 17 Lý thuyết tin tức - Khoa Công Nghệ Thông Tin tin tức (tt)„ Thông tin là một trong những hiện tượng lạ thứ lý, nó hay lâu dài với được tương truyền bên dưới một dạng trang bị chất làm sao đó.„ Những dạng thứ hóa học dùng để làm với ban bố được hotline là dấu hiệu.„ Lý ttiết biểu thị nghiên cứu các dạng dấu hiệu với bí quyết truyền thông tin đi xa với ngân sách thấp, một ngành cơ mà có quan hệ gần cận với LTTT.„ tin tức là một quy trình bất chợt.„ Tín hiệu sở hữu thông tin cũng là dấu hiệu ngẫu nhiên và mô hình tân oán học tập của nó là những quy trình bỗng nhiên thực tuyệt phức.„ Và LTTT là triết lý thiên nhiên của tin tức, tức là nó xét đến tính bất ngờ của thông tin đối với nơi thừa nhận tin. Trang 18 Lý thuyết Thông tin - Khoa Công Nghệ Thông Tin Mô hình của những quá trình truyền tin „ Khái niệm lên tiếng thường xuyên kèm theo với cùng 1 hệ thống truyền tin. Nhiễu Nguồn phạt Kênh truyền Nguồn nhận„ Sự truyền tin (transmission) „ Là sự dịch chuyển thông tin tự đặc điểm này tới điểm không giống vào một môi trường xác minh.„ Nguồn tin (information source) „ Là một tập đúng theo những tin nhưng mà hệ thống truyền tin dùng để làm lập những bảng tin xuất xắc thông báo (message) nhằm truyền tin. „ Bảng tin đó là hàng tin được bên phạt truyền đi. „ tin tức hoàn toàn có thể nằm trong nhiều nhiều loại nhỏng (1) một hàng kí tự như trong năng lượng điện tín (telegraph) của các hệ thống gởi năng lượng điện tín (teletype system); Trang 19 Lý ttiết Thông tin - Khoa Công Nghệ Thông Tin Mô hình của những quá trình truyền tin (tt) (2) một hàm theo có một thay đổi thời hạn f(t) như vào radio với điện thoại; (3) một hàm của thời gian và những đổi mới khác ví như vào truyền họa Trắng Đen – tại đây báo cáo hoàn toàn có thể được suy nghĩ nlỗi là một trong hàm f(x, y, t) của toạ độ hai phía với thời gian màn trình diễn độ mạnh ánh nắng tại điểm (x, y) bên trên màn hình hiển thị cùng thời gian t; (4) một vài ba hàm của một vài ba biến đổi như trong trường phù hợp truyền họa màu – tại chỗ này thông báo bao hàm bố hàm f(x, y, t), g(x, y, t), h(x, y, t) trình diễn cường độ ánh nắng của các ba yếu tắc màu sắc cơ bản (xanh lá cây, đỏ, xanh dương) „ tin tức trước khi được truyền rằng, tuỳ theo đề xuất rất có thể được mã hoá nhằm nén, kháng nhiễu, bảo mật, ...„ Kênh tin (channel) „ Là chỗ ra đời với truyền (hoặc lưu trữ) biểu đạt mang tin đồng thời nghỉ ngơi đấy xẩy ra những tạp nhiễu (noise) hủy diệt thông tin. „ Trong LTTT kênh là 1 tư tưởng trừu tượng đại biểu mang lại hỗn hợp biểu lộ và tạp nhiễu. Trang trăng tròn Lý thuyết Thông tin - Khoa Công Nghệ Thông Tin

Chuyên mục: Kiến thức