Claude Shannon dan apa yang membuatnya terkenal? secara singkat. Teori Informasi K

Mengirimkan karya bagus Anda ke basis pengetahuan itu mudah. Gunakan formulir di bawah ini

Pelajar, mahasiswa pascasarjana, ilmuwan muda yang menggunakan basis pengetahuan dalam studi dan pekerjaan mereka akan sangat berterima kasih kepada Anda.

Diposting di http://www.allbest.ru/

Kementerian Pendidikan dan Ilmu Pengetahuan Federasi Rusia

Badan Federal untuk Pendidikan

Lembaga Pendidikan Negeri Pendidikan Profesi Tinggi Universitas Negeri Syktyvkar

Fakultas Manajemen

Teori informasi Claude Shannon

Ketua: Bolotov S.P.

Pelaku: Paneva Y.V.

kelompok 411

Syktyvkar 2010

Perkenalan

Teori informasi

Kesimpulan

Referensi

Perkenalan

Claude Ellwood Shannon (1916 - 2001) - Insinyur dan ahli matematika Amerika. Pria yang disebut sebagai bapak teori informasi dan komunikasi modern.

Pada suatu hari di musim gugur tahun 1989, seorang koresponden majalah Scientific American masuk ke sebuah rumah tua yang menghadap ke danau di utara Boston. Namun pemilik yang bertemu dengannya, seorang lelaki tua kurus berusia 73 tahun dengan surai abu-abu subur dan senyum nakal, sama sekali tidak ingin mengingat “urusan masa lalu” dan mendiskusikan penemuan ilmiahnya pada 30-50 tahun. yang lalu. Mungkin tamu itu lebih suka melihat mainannya?

Tanpa menunggu jawaban dan tanpa mendengarkan teguran istrinya Betty, pemiliknya membawa jurnalis yang takjub itu ke kamar sebelah, di mana dengan kebanggaan seorang anak laki-laki berusia 10 tahun ia memamerkan harta karunnya: tujuh mesin catur, a tiang sirkus dengan pegas dan mesin bensin, pisau lipat dengan seratus bilah, sepeda roda satu dengan dua tempat duduk, manekin juggling, dan komputer yang menghitung dalam sistem angka Romawi. Dan tidak masalah jika banyak dari kreasi pemiliknya yang sudah lama rusak dan berdebu - dia senang. Siapa orang tua ini? Benarkah dia yang, ketika masih menjadi insinyur muda di Bell Laboratories, menulis “Magna Carta” era informasi - “The Mathematical Theory of Communications” pada tahun 1948? Apakah karyanya disebut sebagai “karya terbesar dalam sejarah pemikiran teknis”? Apakah intuisi perintisnya dibandingkan dengan kejeniusan Einstein? Ya, ini semua tentang dia. Dan di tahun 40-an yang sama, dia merancang piringan terbang dengan mesin roket dan mengendarai sepeda roda satu, sambil melakukan juggling, di sepanjang koridor Bell Labs. Inilah Claude Ellwood Shannon, bapak sibernetika dan teori informasi, yang dengan bangga menyatakan: “Saya selalu mengikuti kepentingan saya tanpa memikirkan seberapa besar kerugiannya bagi saya atau nilainya bagi dunia hal-hal yang tidak berguna.”

Teori informasi

Pada tahun 1941, Claude Shannon yang berusia 25 tahun mulai bekerja di Bell Laboratories. Selama perang, ia mengembangkan sistem kriptografi, dan ini kemudian membantunya menemukan metode pengkodean yang mengoreksi kesalahan. Dan di waktu senggangnya, ia mulai mengembangkan ide-ide yang kemudian menghasilkan teori informasi. Tujuan awal Shannon adalah untuk meningkatkan transmisi informasi melalui telegraf atau saluran telepon yang dipengaruhi oleh gangguan listrik. Dia dengan cepat sampai pada kesimpulan bahwa solusi terbaik untuk masalah ini adalah mengemas informasi dengan lebih efisien.

Tapi apa itu informasi? Bagaimana cara mengukur kuantitasnya? Shannon harus menjawab pertanyaan-pertanyaan ini bahkan sebelum dia mulai meneliti kapasitas saluran komunikasi. Dalam karyanya pada tahun 1948-49, ia mendefinisikan jumlah informasi melalui entropi - besaran yang dikenal dalam termodinamika dan fisika statistik sebagai ukuran ketidakteraturan suatu sistem, dan sebagai satuan informasi ia mengambil apa yang kemudian disebut "bit". ”, yaitu pilihan salah satu dari dua pilihan yang sama kemungkinannya. Shannon kemudian suka mengatakan bahwa dia disarankan untuk menggunakan entropi oleh ahli matematika terkenal John von Neumann, yang memotivasi sarannya dengan fakta bahwa hanya sedikit ahli matematika dan insinyur yang tahu tentang entropi, dan ini akan memberi Shannon keuntungan besar dalam perselisihan yang tak terhindarkan. Entah bercanda atau tidak, betapa sulitnya bagi kita saat ini untuk membayangkan bahwa setengah abad yang lalu konsep “jumlah informasi” masih memerlukan definisi yang ketat dan definisi tersebut dapat menimbulkan kontroversi.

Berdasarkan definisinya yang kokoh tentang kuantitas informasi, Claude Shannon membuktikan teorema menakjubkan tentang kapasitas saluran komunikasi yang berisik. Teorema ini diterbitkan secara keseluruhan dalam karyanya pada tahun 1957-61 dan sekarang menyandang namanya. Apa inti dari teorema Shannon? Setiap saluran komunikasi yang bising dicirikan oleh kecepatan transmisi informasi maksimumnya, yang disebut batas Shannon. Pada kecepatan transmisi di atas batas ini, kesalahan dalam informasi yang dikirimkan tidak dapat dihindari. Namun dari bawah batas ini dapat didekati sedekat yang diinginkan, dengan memberikan pengkodean informasi yang sesuai, kemungkinan kesalahan yang sangat kecil untuk saluran yang berisik.

Ide-ide Shannon ini ternyata terlalu visioner dan tidak dapat diterapkan pada tahun-tahun elektronik tabung lambat. Namun di zaman kita yang memiliki sirkuit mikro berkecepatan tinggi, mereka bekerja di mana pun informasi disimpan, diproses, dan dikirim: di komputer dan disk laser, di mesin faks, dan stasiun antarplanet. Kita tidak memperhatikan teorema Shannon, sama seperti kita tidak memperhatikan udara.

Teori informasi didasarkan pada metode yang dikemukakan oleh K. Shannon untuk menghitung jumlah informasi baru (tidak dapat diprediksi) dan redundan (dapat diprediksi) yang terkandung dalam pesan yang dikirimkan melalui saluran komunikasi teknis.

Metode yang diusulkan oleh Shannon untuk mengukur jumlah informasi ternyata sangat universal sehingga penggunaannya tidak lagi terbatas pada kerangka sempit aplikasi teknis semata.

Bertentangan dengan pendapat K. Shannon sendiri, yang memperingatkan para ilmuwan agar tidak terburu-buru memperluas metode yang ia usulkan melampaui batas-batas masalah terapan teknologi komunikasi, metode ini mulai semakin banyak diterapkan dalam penelitian sistem fisik, biologi, dan sosial.

Kunci pemahaman baru tentang esensi fenomena informasi dan mekanisme proses informasi adalah hubungan antara informasi dan entropi fisik yang dikemukakan oleh L. Brillouin. Hubungan ini pada awalnya menjadi dasar teori informasi, karena Shannon mengusulkan fungsi entropi probabilitas yang dipinjam dari termodinamika statistik untuk menghitung jumlah informasi.

Banyak ilmuwan (dimulai dengan K. Shannon sendiri) cenderung menganggap peminjaman semacam itu sebagai teknik yang murni formal. L. Brillouin menunjukkan bahwa tidak ada hubungan formal, tetapi hubungan bermakna antara jumlah informasi dan entropi fisik yang dihitung menurut Shannon.

Dalam fisika statistik, dengan menggunakan fungsi entropi probabilistik, proses yang mengarah ke kesetimbangan termodinamika dipelajari, di mana semua keadaan molekul (energi, kecepatannya) mendekati kemungkinan yang sama, dan entropi cenderung ke nilai maksimumnya.

Berkat teori informasi, menjadi jelas bahwa dengan menggunakan fungsi yang sama seseorang dapat mempelajari sistem yang jauh dari keadaan entropi maksimum, seperti teks tertulis.

Kesimpulan penting lainnya adalah bahwa dengan menggunakan fungsi entropi probabilistik, dimungkinkan untuk menganalisis semua tahap transisi suatu sistem dari keadaan kacau total, yang sesuai dengan probabilitas yang sama dan nilai entropi maksimum, ke keadaan ekstrim. keteraturan (penentuan kaku), yang sesuai dengan satu-satunya keadaan yang mungkin dari elemen-elemennya.

Kesimpulan ini ternyata juga berlaku untuk sistem yang sifatnya berbeda, seperti gas, kristal, teks tertulis, organisme atau komunitas biologis, dll.

Terlebih lagi, jika untuk gas atau kristal ketika menghitung entropi, hanya keadaan mikro (yaitu keadaan atom dan molekul) dan keadaan makro sistem ini (yaitu gas atau kristal secara keseluruhan) yang dibandingkan, maka untuk sistem a sifat yang berbeda (biologis, intelektual, sosial), entropi dapat dihitung pada satu atau beberapa tingkat yang dipilih secara sewenang-wenang. Dalam hal ini, nilai entropi yang dihitung dari sistem yang dipertimbangkan dan jumlah informasi yang mencirikan derajat keteraturan sistem ini dan sama dengan perbedaan antara nilai entropi maksimum dan nyata akan bergantung pada distribusi probabilitas keadaan. dari elemen tingkat yang mendasarinya, yaitu elemen-elemen yang bersama-sama membentuk sistem ini.

Jumlah informasi yang disimpan dalam struktur sistem sebanding dengan derajat penyimpangan sistem dari keadaan setimbang, karena keteraturan yang dipertahankan dalam struktur sistem.

Tanpa curiga, Shannon mempersenjatai sains dengan ukuran universal, yang pada prinsipnya cocok (tergantung pada identifikasi nilai semua probabilitas) untuk menilai tingkat keteraturan semua sistem yang ada di dunia.

Setelah mendefinisikan ukuran informasi yang diperkenalkan oleh Chenon sebagai ukuran keteraturan pergerakan, kita dapat membangun hubungan antara informasi dan energi, dengan mempertimbangkan energi sebagai ukuran intensitas gerakan. Dalam hal ini, jumlah informasi yang disimpan dalam struktur sistem sebanding dengan energi total koneksi internal sistem tersebut.

Bersamaan dengan identifikasi sifat-sifat umum informasi sebagai sebuah fenomena, juga terungkap perbedaan mendasar sistem informasi terkait dengan tingkat kompleksitas yang berbeda.

Misalnya, semua objek fisik, tidak seperti objek biologis, tidak memiliki organ memori khusus, pengodean ulang sinyal yang datang dari dunia luar, atau saluran komunikasi informasi. Informasi yang tersimpan di dalamnya, seolah-olah, “dioleskan” ke seluruh strukturnya. Pada saat yang sama, jika kristal tidak mampu menyimpan informasi dalam koneksi internal yang menentukan urutannya, maka tidak mungkin membuat memori buatan dan perangkat teknis berdasarkan struktur kristal yang dirancang untuk pemrosesan informasi.

Pada saat yang sama, harus diingat bahwa pembuatan perangkat semacam itu menjadi mungkin hanya berkat pikiran seseorang yang mampu menggunakan sifat informasi dasar kristal untuk membangun sistem informasi yang kompleks.

Sistem biologis paling sederhana melampaui kompleksitas sistem informasi tercanggih yang diciptakan manusia. Sudah pada tingkat organisme bersel tunggal yang paling sederhana, mekanisme genetik informasi paling kompleks yang diperlukan untuk reproduksi mereka terlibat. Dalam organisme multiseluler, selain sistem informasi keturunan, terdapat organ khusus untuk menyimpan informasi dan memprosesnya (misalnya, sistem yang mengkode ulang sinyal visual dan pendengaran yang datang dari dunia luar sebelum mengirimkannya ke otak, sistem untuk memprosesnya. sinyal di otak). Jaringan komunikasi informasi yang kompleks (sistem saraf) meresap dan mengubah seluruh organisme multiseluler menjadi satu kesatuan.

Sudah di tingkat sistem biologis, masalah muncul dalam memperhitungkan nilai dan makna informasi yang digunakan oleh sistem ini. Akuntansi seperti ini bahkan lebih diperlukan untuk menganalisis fungsi sistem informasi cerdas.

Pemahaman mendalam tentang kekhususan sistem biologis dan intelektual memungkinkan untuk mengidentifikasi batas-batas di mana pendekatan entropi informasi yang dikembangkan oleh ilmu pengetahuan modern kehilangan kompetensinya.

Shannon harus menentukan batasan-batasan ini pada tahap awal penciptaan teori informasi, karena tanpa ini tidak mungkin menggunakan ukuran kuantitatif informasi untuk mengevaluasi teks tertulis dan sistem informasi lain yang diciptakan oleh pikiran manusia. Untuk tujuan inilah Shannon membuat reservasi bahwa metode yang diusulkannya untuk menghitung informasi teks tertulis mengabaikan sifat-sifat inherennya, seperti makna dan nilai pesan yang terkandung di dalamnya.

Jadi, misalnya, ketika menghitung jumlah informasi yang terkandung dalam dua pesan seperti "Kasparov memainkan permainan berikutnya dengan warna putih" dan "Warga Belov memiliki seorang putra", nilai yang sama akan diperoleh - 1 bit. Tidak ada keraguan bahwa kedua pesan ini memiliki arti yang berbeda dan jauh dari nilai yang sama bagi warga Belov. Namun, seperti disebutkan di atas, penilaian makna dan nilai informasi berada di luar kompetensi teori informasi dan oleh karena itu tidak mempengaruhi jumlah bit yang dihitung menggunakan rumus Shannon.

Mengabaikan makna dan nilai informasi tidak menghalangi Shannon untuk memecahkan masalah terapan yang menjadi tujuan teorinya: seorang insinyur komunikasi tidak harus mempelajari esensi pesan yang dikirimkan melalui jalur komunikasi. Tugasnya adalah mengirimkan pesan tersebut secepat mungkin, dengan pengeluaran sumber daya paling sedikit (energi, rentang frekuensi yang digunakan) dan, jika mungkin, tanpa kerugian apa pun. Dan biarkan orang yang menerima informasi ini (penerima pesan) menggali maknanya, menentukan nilainya, dan memutuskan bagaimana menggunakan informasi yang diterimanya.

Pendekatan yang murni pragmatis ini memungkinkan Shannon untuk memperkenalkan ukuran tunggal dari jumlah informasi, tidak bergantung pada makna dan nilai, yang ternyata cocok untuk analisis semua sistem dengan tingkat keteraturan tertentu.

Setelah karya-karya penting Shannon, landasan teori informasi semantik (semantik) dan nilai (pragmatis, aksiologis) mulai dikembangkan.

Namun, tidak satu pun dari teori-teori ini dan unit pengukuran nilai atau makna yang dikemukakan oleh penulisnya ditakdirkan untuk memperoleh tingkat universalitas yang sama dengan ukuran yang diperkenalkan Shannon ke dalam sains.

Faktanya adalah bahwa penilaian kuantitatif terhadap makna dan nilai informasi hanya dapat dilakukan setelah kesepakatan awal tentang apa sebenarnya nilai dan makna bagi fenomena yang sedang dipertimbangkan dalam setiap kasus tertentu. Tidak mungkin mengukur nilai informasi yang terkandung, katakanlah, dalam hukum Ohm dan pernyataan cinta dengan menggunakan satuan yang sama. Dengan kata lain, kriteria makna dan nilai selalu bersifat subjektif, sehingga penerapannya terbatas, sedangkan ukuran yang dikemukakan oleh Shannon sama sekali menghilangkan subjektivitas ketika menilai derajat keteraturan dalam struktur sistem yang diteliti.

Lalu apa ciri nilai entropi teks yang dihitung menggunakan rumus Shannon dan dinyatakan dengan jumlah bit? Hanya ada satu properti dari teks ini - tingkat keteraturannya atau, dengan kata lain, tingkat penyimpangannya dari keadaan kekacauan total, di mana semua huruf memiliki probabilitas yang sama, dan teks akan berubah menjadi kumpulan yang tidak berarti. surat.

Urutan teks (atau sistem lain yang diteliti) akan semakin besar, semakin besar pula perbedaan probabilitasnya, dan semakin besar pula probabilitas kejadian berikutnya bergantung pada probabilitas kejadian sebelumnya.

Menurut prinsip informasi negentropi, jumlah informasi yang menyatakan keteraturan ini akan sama dengan penurunan entropi sistem dibandingkan dengan nilai entropi maksimum yang mungkin sesuai dengan kurangnya keteraturan dan keadaan sistem yang paling kacau.

Metode penghitungan informasi yang dikemukakan oleh Shannon memungkinkan untuk mengidentifikasi rasio jumlah informasi yang dapat diprediksi (yaitu, dibentuk menurut aturan tertentu) dan jumlah informasi tak terduga yang tidak dapat diprediksi sebelumnya.

Dengan cara ini, pada tingkat tertentu, dimungkinkan untuk "membongkar" saluran yang dimaksudkan untuk mengirimkan pesan. Analisis Shannon terhadap teks bahasa Inggris menunjukkan bahwa informasi berlebihan yang dikandungnya mencapai sekitar 80% dari total jumlah informasi yang terkandung dalam teks tertulis. 20% sisanya adalah entropi yang sama, sehingga teks dapat berfungsi sebagai sumber energi yang tidak dapat diprediksi.

Jika pesan tekstual, lisan, atau visual (khususnya televisi) sama sekali tidak mengandung entropi, maka pesan tersebut tidak akan membawa berita apa pun kepada penerima pesan.

Jika suatu teks tertulis dibangun hanya berdasarkan aturan-aturan yang telah dirumuskan sebelumnya, maka dengan menetapkan aturan-aturan tersebut berdasarkan teks halaman pertama, maka dapat diprediksi terlebih dahulu apa yang akan ditulis pada halaman 50, 265, 521. , dll.

Kesimpulan

komunikasi saluran informasi shannon

Namun sejak awal tahun 60an, Shannon tidak melakukan apa pun lagi dalam teori informasi. Sepertinya dia sudah bosan dengan teori yang dia ciptakan hanya dalam waktu 20 tahun. Pada tahun 1985, Claude Shannon dan istrinya Betty tiba-tiba menghadiri Simposium Internasional Teori Informasi di kota Brighton, Inggris. Shannon tidak muncul di konferensi selama hampir satu generasi, dan pada awalnya tidak ada yang mengenalinya. Kemudian para peserta simposium mulai berbisik: pria sederhana berambut abu-abu di sana itu adalah Claude Elwood Shannon, orang yang sama! Pada jamuan makan tersebut, Shannon mengucapkan beberapa patah kata, melakukan sedikit juggling dengan tiga (sayangnya, hanya tiga) bola, dan kemudian menandatangani ratusan tanda tangan untuk para insinyur dan ilmuwan yang terpana yang mengantri dalam antrean panjang. Mereka yang mengantri mengatakan bahwa mereka merasakan perasaan yang sama seperti yang dialami fisikawan jika Sir Isaac Newton sendiri muncul di konferensi mereka.

Claude Shannon meninggal pada tahun 2001 di panti jompo Massachusetts karena penyakit Alzheimer pada usia 84 tahun.

Referensi

1.Internet

2. Shannon K.E. Teori matematika komunikasi. Karya tentang teori informasi dan sibernetika., M, 1963.

3. Shannon K. E. Ikut-ikutan. /Karya teori informasi dan sibernetika/M.

Diposting di Allbest.ru

Dokumen serupa

Jumlah total pesan yang tidak berulang. Perhitungan kecepatan transmisi informasi dan kapasitas saluran komunikasi. Penentuan redundansi pesan dan pengkodean optimal. Prosedur pembuatan kode optimal menggunakan metode Shannon-Fano.

tugas kursus, ditambahkan 17/04/2009

Skema umum pengoperasian saluran komunikasi, klasifikasi dan karakteristiknya. Saluran komunikasi biner diskrit dan penentuan kapasitasnya, fitur operasi dengan dan tanpa interferensi menurut teorema Shannon. Kapasitas saluran kontinu.

abstrak, ditambahkan 14/07/2009

Pokok bahasan dan tugas teori informasi, fungsinya dalam penciptaan sistem kendali otomatis. Penentuan throughput saluran diskrit (digital) tanpa adanya noise. Perhitungan kecepatan transmisi informasi. Perhitungan nilai entropi - jumlah rata-rata informasi.

tes, ditambahkan 18/01/2015

Perhitungan jumlah informasi per karakter menggunakan rumus Shannon. Perubahan entropi informasi dalam teks konten ekonomi, ilmu pengetahuan alam dan sastra. Jumlah informasi maksimum per tanda menurut rumus Hartley.

pekerjaan laboratorium, ditambahkan 06.12.2013

presentasi, ditambahkan 19/10/2014

Memproses informasi, menganalisis saluran untuk kemungkinan kebocorannya. Pembangunan sistem keamanan informasi teknis: memblokir saluran akses tidak sah, regulasi regulasi. Perlindungan informasi rahasia di stasiun kerja berdasarkan PC otonom.

tesis, ditambahkan 06/05/2011

Mempelajari algoritma untuk mengontrol toleransi keandalan informasi awal, dengan bantuan yang mengidentifikasi kegagalan lengkap dan sebagian informasi dan saluran pengukuran. Penentuan kesalahan dalam menjalankan persamaan hubungan antar kuantitas informasi.

pekerjaan laboratorium, ditambahkan 14/04/2012

Menentukan jumlah rata-rata informasi. Ketergantungan antar simbol matriks probabilitas bersyarat. Pengkodean menggunakan metode Shannon – Fano. Kapasitas saluran komunikasi. Efisiensi pengkodean pesan menggunakan metode D. Huffman, karakteristik kode.

tes, ditambahkan 05/04/2015

Analisis sumber sinyal berbahaya dan identifikasi saluran teknis potensial untuk kebocoran informasi dan akses tidak sah. Metode organisasi dan teknis untuk melindungi informasi di ruangan khusus, peralatan teknik yang digunakan.

tugas kursus, ditambahkan 18/11/2015

Jumlah informasi dan ukurannya. Menentukan jumlah informasi yang terkandung dalam pesan dari kumpulan pesan sumber. Sifat kuantitas informasi dan entropi pesan. Redundansi, karakteristik informasi dari sumber pesan diskrit.

Tahun hidup: 1916-2001

Sumber enkripsi menetapkan batas kompresi data maksimum dan nilai numerik entropi Shannon.

©Claude Shannon

Biografi

Claude Shannon lahir pada tanggal 30 April 1916 di Petocki, Michigan, AS. Claude menghabiskan enam belas tahun pertama hidupnya di Gaylord, Michigan, di mana dia lulus Sekolah Menengah Komprehensif Gaylord pada tahun 1932. Di masa mudanya, dia bekerja sebagai kurir untuk Western Union. Ayahnya adalah seorang pengacara dan untuk beberapa waktu menjadi hakim. Ibunya adalah seorang guru bahasa asing dan kemudian menjadi kepala sekolah di SMA Gaylord. Claude muda tertarik merancang perangkat mekanis dan otomatis. Dia mengumpulkan model pesawat terbang dan sirkuit radio, menciptakan perahu yang dikendalikan radio dan sistem telegraf antara rumah temannya dan rumahnya sendiri. Kadang-kadang dia harus memperbaiki stasiun radio untuk department store setempat. Thomas Edison adalah kerabat jauhnya.

Pada tahun 1932, Shannon terdaftar di Universitas Michigan, di mana dia mengambil kursus yang memperkenalkan calon ilmuwan tersebut pada karya George Boole. Pada tahun 1936, Claude lulus dari Universitas Michigan dengan gelar sarjana matematika dan teknik elektro dan melanjutkan ke Institut Teknologi Massachusetts (MIT), di mana ia bekerja sebagai asisten peneliti di Vannevar Bush Differential Analyzer, sebuah komputer analog. Dengan mempelajari rangkaian listrik yang kompleks dan sangat terspesialisasi dari penganalisis diferensial, Shannon melihat bahwa konsep Boole dapat dimanfaatkan dengan baik. Sebuah makalah yang berasal dari tesis masternya tahun 1937, "Analisis Simbolik Relai dan Sakelar," diterbitkan pada tahun 1938 oleh American Institute of Electrical Engineers. Itu juga yang menjadi alasan Shannon dianugerahi Hadiah Nobel Alfred oleh American Institute of Electrical Engineers pada tahun 1940. Sirkuit digital adalah dasar komputasi modern, menjadikan karyanya salah satu hasil ilmiah terpenting abad ke-20. Howard Gardner dari Universitas Harvard menyebut karya Shannon "mungkin yang paling penting, serta tesis master paling terkenal abad ini."

Atas saran Bush, Schennon memutuskan untuk mengejar gelar doktor di bidang matematika di MIT. Ide untuk pekerjaan masa depannya datang kepadanya pada musim panas 1939, ketika dia bekerja di sebuah laboratorium di Cold Spring Harbor (New York). Bush diangkat sebagai presiden Carnegie Institution di Washington dan mengundang Shannon untuk mengambil bagian dalam pekerjaan yang dilakukan Barbara Burks di bidang genetika. Genetikalah, menurut Bush, yang dapat menjadi subjek upaya Shannon. Disertasi doktoral Shannon yang berjudul "Aljabar untuk Genetika Teoritis" diselesaikan pada musim semi tahun 1940. Shannon sedang mengejar gelar PhD di bidang matematika dan gelar master di bidang teknik elektro.

Pada periode 1941 hingga 1956. Shannon mengajar di Universitas Michigan dan bekerja di Bell Labs. Di laboratorium Bell, Shannon, saat meneliti rangkaian switching, menemukan metode baru untuk mengaturnya yang mengurangi jumlah kontak relai yang diperlukan untuk mengimplementasikan fungsi logika yang kompleks. Ia menerbitkan makalah berjudul "Organisasi Sirkuit Peralihan Kutub Ganda". Shannon menangani masalah pembuatan rangkaian switching, mengembangkan metode yang pertama kali disebutkan oleh von Neumann yang memungkinkan terciptanya rangkaian yang lebih andal daripada relai yang menyusunnya. Pada akhir tahun 1940, Shannon menerima Penghargaan Riset Nasional. Pada musim semi tahun 1941 dia kembali ke Bell. Dengan pecahnya Perang Dunia II, T. Fry memimpin pengerjaan program sistem pengendalian tembakan untuk pertahanan udara. Shannon bergabung dengan kelompok Fry dan mengerjakan perangkat yang mendeteksi pesawat musuh dan menargetkan senjata antipesawat, dan dia juga mengembangkan sistem kriptografi, termasuk komunikasi pemerintah, yang memastikan negosiasi antara Churchill dan Roosevelt di seberang lautan. Seperti yang dikatakan Shannon sendiri, pekerjaan di bidang kriptografi mendorongnya untuk menciptakan teori informasi.

Dari tahun 1950 hingga 1956, Shannon terlibat dalam pembuatan mesin logika, sehingga melanjutkan upaya von Neumann dan Turing. Dia menciptakan mesin yang bisa bermain catur jauh sebelum Deep Blue diciptakan. Pada tahun 1952, Shannon menciptakan mesin pemecah labirin yang dapat dilatih.

Shannon pensiun pada usia lima puluh tahun, pada tahun 1966, tetapi dia terus menjadi konsultan di Bell Labs. Pada tahun 1985, Claude Shannon dan istrinya Betty menghadiri Simposium Internasional Teori Informasi di Brighton. Shannon sudah cukup lama tidak menghadiri konferensi internasional, dan pada awalnya mereka bahkan tidak mengenalinya. Pada jamuan makan tersebut, Claude Shannon memberikan pidato singkat, menyulap hanya tiga bola, dan kemudian memberikan ratusan dan ratusan tanda tangan kepada para ilmuwan dan insinyur yang takjub yang berdiri dalam antrean panjang, merasakan perasaan hormat terhadap ilmuwan besar itu, membandingkannya dengan Tuan. Isaac Newton.

Dia adalah pengembang mainan industri pertama yang dikendalikan radio, yang diproduksi pada tahun 50-an di Jepang (foto). Ia juga mengembangkan alat yang dapat melipat kubus Rubik (foto), komputer mini untuk permainan papan Hex yang selalu mengalahkan lawan (foto), mouse mekanis yang dapat menemukan jalan keluar dari labirin (foto). Ia pun mewujudkan ide mesin komik “Ultimate Machine” (foto).

Teori komunikasi dalam sistem rahasia

Karya Shannon "The Theory of Communication in Secret Systems" (1945), diklasifikasikan sebagai "rahasia", yang dideklasifikasi dan diterbitkan hanya pada tahun 1949, menjadi awal dari penelitian ekstensif dalam teori pengkodean dan transmisi informasi, dan, pada pendapat umum, memberikan kriptografi status ilmu. Claude Shannon-lah yang pertama kali mempelajari kriptografi dengan menggunakan pendekatan ilmiah. Dalam artikel ini, Shannon mendefinisikan konsep dasar teori kriptografi, yang tanpanya kriptografi tidak lagi dapat dibayangkan. Kelebihan penting Shannon adalah penelitian tentang sistem yang benar-benar aman dan bukti keberadaannya, serta keberadaan sandi yang kuat secara kriptografis, dan kondisi yang diperlukan untuk ini. Shannon juga merumuskan persyaratan dasar untuk sandi yang kuat. Dia memperkenalkan konsep hamburan dan pencampuran yang sekarang dikenal, serta metode untuk menciptakan sistem enkripsi kriptografi yang kuat berdasarkan operasi sederhana. Artikel ini merupakan titik awal untuk mempelajari ilmu kriptografi.

Artikel "Teori komunikasi matematika"

Memecahkan masalah redundansi pesan yang dikirimkan memungkinkan penggunaan saluran komunikasi yang paling efisien. Misalnya, metode modern yang banyak digunakan untuk mengurangi redundansi dalam sistem penyiaran televisi saat ini memungkinkan transmisi hingga enam program televisi komersial digital dalam pita frekuensi yang ditempati oleh sinyal televisi analog konvensional.

Memecahkan masalah transmisi pesan melalui saluran komunikasi dengan noise untuk rasio tertentu dari kekuatan sinyal yang berguna dengan kekuatan sinyal interferensi di lokasi penerima memungkinkan pesan untuk ditransmisikan melalui saluran komunikasi dengan kemungkinan kesalahan yang sangat rendah. transmisi pesan. Juga, rasio ini menentukan kapasitas saluran. Hal ini dipastikan dengan penggunaan kode yang tahan terhadap interferensi, sedangkan kecepatan transmisi pesan melalui saluran tertentu harus lebih rendah dari kapasitasnya.

Dalam karyanya, Shannon membuktikan kemungkinan mendasar untuk memecahkan masalah yang teridentifikasi; ini adalah sensasi nyata di kalangan ilmiah di akhir tahun 40an. Penelitian ini, serta penelitian yang meneliti potensi kekebalan terhadap kebisingan, memunculkan sejumlah besar penelitian yang berlanjut hingga hari ini, selama lebih dari setengah abad. Ilmuwan dari Uni Soviet dan Amerika Serikat (USSR - Pinsker (Inggris) Rusia, Khinchin, Dobrushin, Kolmogorov; AS - Gallagher (Inggris) Rusia, Wolfowitz (Inggris) Rusia, Feinstein) memberikan interpretasi yang ketat terhadap teori yang digariskan oleh Shannon.

Saat ini, semua sistem komunikasi digital dirancang berdasarkan prinsip dasar dan hukum transmisi informasi yang dikembangkan oleh Shannon. Menurut teori informasi, redundansi pertama-tama dihilangkan dari pesan, kemudian informasi tersebut dikodekan menggunakan kode yang tahan terhadap interferensi, dan baru kemudian pesan tersebut dikirimkan melalui saluran ke konsumen. Berkat teori informasi, redundansi pesan televisi, suara dan faks berkurang secara signifikan.

Sejumlah besar penelitian telah dicurahkan untuk menciptakan kode tahan kebisingan dan metode sederhana untuk memecahkan kode pesan. Penelitian yang dilakukan selama lima puluh tahun terakhir telah menjadi dasar Rekomendasi ITU tentang Penerapan Metode Pengkodean Tahan Kebisingan dan Pengodean Sumber dalam Sistem Digital Modern.

Teorema kapasitas saluran.

Setiap saluran yang bising dicirikan oleh kecepatan transmisi informasi maksimum, batas ini dinamai Shannon. Saat mentransmisikan informasi dengan kecepatan melebihi batas ini, distorsi data yang tidak dapat dihindari terjadi, tetapi dari bawah batas ini dapat didekati dengan akurasi yang diperlukan, memastikan kemungkinan kecil kesalahan transmisi informasi dalam saluran yang bising

teorema Shannon

Teorema Shannon langsung dan terbalik untuk sumber bentuk umum - tentang hubungan antara entropi sumber dan rata-rata panjang pesan.
Teorema Shannon langsung dan terbalik untuk sumber tanpa memori - tentang hubungan antara entropi sumber dan tingkat kompresi yang dapat dicapai menggunakan pengkodean lossy dan penguraian kode ambigu berikutnya.
Teorema langsung dan invers Shannon untuk saluran berisik adalah tentang hubungan antara kapasitas saluran dan keberadaan kode yang dapat digunakan untuk transmisi dengan kesalahan cenderung nol (seiring bertambahnya panjang blok).
Teorema Nyquist-Shannon (dalam literatur berbahasa Rusia - teorema Kotelnikov) adalah tentang rekonstruksi sinyal yang jelas dari sampel diskritnya.
Teorema Sumber Enkripsi Shannon (atau Teorema Enkripsi Senyap) menetapkan batas kompresi data maksimum dan nilai numerik untuk entropi Shannon.
Teorema Shannon-Hartley

Claude Ellwood Shannon adalah seorang matematikawan, insinyur elektronik, dan kriptografer Amerika pemenang penghargaan yang dikenal sebagai pencipta teori informasi.

Pahlawan kitalah yang pernah mengusulkan penggunaan konsep “bit”, yang dikenal semua orang saat ini, sebagai setara dengan unit informasi terkecil.

Shannon menjadi terkenal sebagai orang yang melahirkan teori informasi dalam sebuah makalah penting yang diterbitkannya pada tahun 1948. Selain itu, ia juga dikreditkan dengan gagasan menciptakan komputer digital dan teknologi digital secara umum, pada tahun 1937, ketika Shannon masih menjadi mahasiswa berusia 21 tahun di Massachusetts Institute of Technology yang sedang mengerjakan gelar masternya. - dia kemudian menulis disertasi di mana dia menunjukkan bahwa penggunaan aljabar Boolean di bidang elektronik dapat membangun dan menyelesaikan masalah logis dan numerik apa pun.

komunikasi. Sebuah artikel berdasarkan disertasinya memberinya hadiah dari American Institute of Electrical Engineers pada tahun 1940.

Selama Perang Dunia II, Shannon memberikan kontribusi yang signifikan di bidang kriptanalisis saat bekerja pada pertahanan nasional, termasuk proyek penting dalam memecahkan kode dan memastikan telekomunikasi yang aman.

Shannon lahir pada tanggal 30 April 1916 di Petoskey, Michigan, dan dibesarkan di dekat Gaylord, Michigan. Ayahnya adalah salah satu dari orang-orang yang berusaha mandiri. Seorang keturunan pemukim awal New Jersey, dia adalah seorang pengusaha dan hakim. Ibu Claude mengajar bahasa Inggris dan selama beberapa waktu memimpin

Sekolah Dasar Gaylord. Shannon menghabiskan sebagian besar 16 tahun pertama hidupnya di Gaylord, dan lulus dari sekolah lokal pada tahun 1932. Sejak kecil ia tertarik membuat model mekanikal dan elektrikal. Mata pelajaran favoritnya adalah sains dan matematika, dan di waktu luangnya di rumah, dia membuat model pesawat terbang, model perahu yang dikendalikan radio, dan bahkan telegraf nirkabel yang menghubungkannya ke rumah temannya yang tinggal setengah mil dari keluarga Shannon. .

Saat remaja, Claude bekerja paruh waktu sebagai kurir di Western Union. Pahlawan masa kecilnya adalah Thomas Edison, yang ternyata kemudian juga merupakan kerabat jauh. Mereka berdua adalah keturunan

ami John Ogden, pemimpin kolonial abad ke-17 dan nenek moyang banyak orang terkemuka. Yang tidak diminati Shannon adalah politik. Apalagi dia adalah seorang ateis.

Pada tahun 1932, Claude menjadi mahasiswa di Universitas Michigan, di mana salah satu mata kuliah memperkenalkannya pada seluk-beluk aljabar Boole. Setelah lulus pada tahun 1936 dengan dua gelar sarjana, di bidang matematika dan teknik elektro, ia melanjutkan studinya di MIT, di mana ia bekerja pada salah satu komputer analog pertama, penganalisis diferensial Vannevar Bush - saat itulah ia menyadari bahwa konsep Boolean aljabar bisa diterapkan dengan lebih bermanfaat. Tesis Shannon untuk gelar m

tesis master berjudul "Analisis Simbolik Relai dan Sakelar" dan dianggap oleh para ahli sebagai salah satu tesis master terpenting abad ke-20.

Pada musim semi tahun 1940, Shannon menerima gelar doktor dalam bidang matematika dari MIT dengan disertasi tentang "Aljabar untuk Genetika Teoretis", dan selama 19 tahun berikutnya, dari tahun 1941 hingga 1956, ia mengajar di Universitas Michigan dan bekerja di Bell Labs, dimana ketertarikannya dipicu oleh sistem proteksi kebakaran dan kriptografi (inilah yang dia lakukan selama Perang Dunia II).

Di Bell Labs, Shannon bertemu calon istrinya, Betty Shannon, yang bekerja di bidang analisis numerik. Mereka menikah pada tahun 1949. Pada tahun 1956, Shannon kembali ke MIT,

di mana dia ditawari kursi, dan bekerja di sana selama 22 tahun.

Hobinya antara lain juggling, naik sepeda roda satu, dan catur. Dia menemukan berbagai gadget menyenangkan, termasuk cakram terbang bertenaga roket, belalang bermotor, dan tabung pemancar api untuk pameran sains. Dia juga dikreditkan, bersama dengan Edward O. Thorp, dengan penemuan komputer portabel pertama - mereka menggunakan perangkat ini untuk meningkatkan peluang menang di roulette, dan upaya mereka ke Las Vegas sangat sukses.

Shannon menghabiskan tahun-tahun terakhirnya di panti jompo, menderita penyakit Alzheimer. Dia meninggal pada 24 Februari 2001.

Claude Elwood Shannon (Bahasa Inggris: Claude Elwood Shannon; 30 April 1916, Petocki, Michigan - 24 Februari 2001, Medford, Massachusetts) - Matematikawan dan insinyur Amerika, karyanya merupakan sintesis ide-ide matematika dengan analisis spesifik terhadap masalah-masalah yang sangat kompleks. teknis pelaksanaannya. Dia adalah pendiri teori informasi, yang telah diterapkan dalam sistem komunikasi modern berteknologi tinggi. Shannon memberikan kontribusi yang sangat besar pada teori rangkaian probabilistik, teori automata, dan teori sistem kendali - bidang ilmu yang termasuk dalam konsep sibernetika.

Biografi Claude Shannon lahir pada tanggal 30 April 1916 di Petocki, Michigan, AS. Claude menghabiskan enam belas tahun pertama hidupnya di Gaylord, Michigan, di mana dia bersekolah di sekolah umum dan kemudian lulus dari Gaylord High School pada tahun 1932. Semasa mudanya, dia bekerja sebagai kurir untuk Western Union. Ayahnya adalah seorang pengacara dan untuk beberapa waktu menjadi hakim. Ibunya adalah seorang guru bahasa asing dan kemudian menjadi kepala sekolah di SMA Gaylord. Claude muda sangat menyukai merancang perangkat otomatis. Dia mengumpulkan model pesawat terbang dan sirkuit radio, dan juga menciptakan perahu yang dikendalikan radio dan sistem telegraf antara rumah temannya dan rumahnya sendiri. Kadang-kadang dia harus memperbaiki stasiun radio untuk department store setempat. Thomas Edison adalah kerabat jauhnya.

Pada tahun 1932, Shannon terdaftar di Universitas Michigan, di mana dia mengambil kursus yang memperkenalkan calon ilmuwan tersebut pada karya George Boole. Pada tahun 1936, Claude lulus dari Universitas Michigan dengan gelar sarjana matematika dan teknik elektro dan melanjutkan ke Institut Teknologi Massachusetts, di mana ia bekerja sebagai asisten peneliti di Vannevar Bush Differential Analyzer, sebuah komputer analog. Saat mempelajari rangkaian listrik yang kompleks dan sangat terspesialisasi dari penganalisis diferensial, Shannon melihat bahwa konsep Boole dapat dimanfaatkan dengan baik. Sebuah makalah yang berasal dari tesis masternya tahun 1937, "Analisis Simbolik Relai dan Sakelar," diterbitkan pada tahun 1938 oleh American Institute of Electrical Engineers (AIEE). Itu pula yang menjadi alasan Shannon dianugerahi Hadiah Nobel Alfred oleh American Institute of Engineering pada tahun 1940. Sirkuit digital adalah dasar komputasi modern, menjadikan karyanya salah satu hasil ilmiah terpenting abad ke-20. Howard Gardner dari Universitas Harvard menyebut karya Shannon "mungkin yang paling penting, serta tesis master paling terkenal abad ini."

Atas saran Bush, Shannon memutuskan untuk mengejar gelar doktor matematika di MIT. Ide untuk pekerjaan masa depannya datang kepadanya pada musim panas 1939, ketika dia bekerja di Cold Spring Harbor di New York. Bush diangkat sebagai presiden Carnegie Institution di Washington County dan mengundang Shannon untuk berpartisipasi dalam pekerjaan yang dilakukan Barbara Burks di bidang genetika. Genetikalah, menurut Bush, yang dapat menjadi subjek upaya Shannon. Disertasi doktoral Shannon yang berjudul "Aljabar untuk Genetika Teoretis" diselesaikan pada musim semi tahun 1940. Shannon sedang mengejar gelar PhD di bidang Matematika dan MS di bidang Teknik Elektro.

Pada periode 1941 hingga 1956. Shannon mengajar di Universitas Michigan dan bekerja di Bell Labs. Di laboratorium Bell, Shannon, saat meneliti rangkaian switching, menemukan metode baru untuk mengaturnya yang mengurangi jumlah kontak relai yang diperlukan untuk mengimplementasikan fungsi logika yang kompleks. Ia menerbitkan makalah berjudul "Organisasi Sirkuit Peralihan Kutub Ganda". Shannon menangani masalah pembuatan rangkaian switching, mengembangkan metode yang pertama kali disebutkan oleh von Neumann yang memungkinkan terciptanya rangkaian yang lebih andal daripada relai yang menyusunnya. Pada akhir tahun 1940, Shannon menerima Penghargaan Riset Nasional. Pada musim semi tahun 1941 dia kembali ke Bell. Dengan pecahnya Perang Dunia II, T. Fry memimpin pengerjaan program sistem pengendalian kebakaran untuk pertahanan udara. Shannon bergabung dengan kelompok Fry dan mengerjakan perangkat yang mendeteksi pesawat musuh dan menargetkan senjata antipesawat, dan dia juga mengembangkan sistem kriptografi, termasuk komunikasi pemerintah, yang memastikan negosiasi antara Churchill dan Roosevelt di seberang lautan. Seperti yang dikatakan Shannon sendiri, pekerjaan di bidang kriptografi mendorongnya untuk menciptakan teori informasi.

Shannon pensiun pada usia lima puluh tahun pada tahun 1966, tetapi dia terus menjadi konsultan di Bell Labs. Pada tahun 1985, Claude Shannon dan istrinya Betty menghadiri Simposium Internasional Teori Informasi di Brighton. Shannon sudah cukup lama tidak menghadiri konferensi internasional, dan pada awalnya mereka bahkan tidak mengenalinya. Pada jamuan makan tersebut, Claude Shannon memberikan pidato singkat, menyulap hanya tiga bola, dan kemudian memberikan ratusan dan ratusan tanda tangan kepada para ilmuwan dan insinyur yang takjub yang berdiri dalam antrean panjang, merasakan perasaan hormat terhadap ilmuwan besar itu, membandingkannya dengan Tuan. Isaac Newton.

Claude Shannon meninggal pada 24 Februari 2001. Karya Shannon "The Theory of Communication in Secret Systems" (1945), diklasifikasikan sebagai rahasia, yang dideklasifikasi dan diterbitkan hanya pada tahun 1949, menjadi awal dari penelitian ekstensif dalam teori pengkodean dan transmisi informasi, dan, dalam opini umum , memberi kriptografi status ilmu. Claude Shannon-lah yang pertama kali mempelajari kriptografi dengan menggunakan pendekatan ilmiah. Dalam artikel ini, Claude mendefinisikan konsep dasar teori kriptografi, yang tanpanya kriptografi tidak lagi dapat dibayangkan. Kelebihan penting Shannon adalah penelitian sistem yang benar-benar rahasia, dan bukti keberadaannya, serta keberadaan sandi kriptografi, dan kondisi yang diperlukan untuk ini. Shannon juga merumuskan persyaratan dasar untuk sandi yang kuat. Dia memperkenalkan konsep hamburan dan pencampuran yang sekarang dikenal, dan metode untuk menciptakan sistem enkripsi kriptografi yang kuat berdasarkan operasi sederhana. Artikel ini merupakan titik awal untuk mempelajari ilmu kriptografi.

Teori komunikasi matematika

Artikel "Teori Komunikasi Matematika" diterbitkan pada tahun 1948 dan membuat Claude Shannon terkenal di dunia. Di dalamnya, Shannon menguraikan ide-idenya, yang kemudian menjadi dasar teori dan teknik modern untuk memproses transmisi dan penyimpanan informasi. Hasil karyanya di bidang transmisi informasi melalui saluran komunikasi melancarkan sejumlah besar penelitian di seluruh dunia. Shannon menggeneralisasi gagasan Hartley dan memperkenalkan konsep informasi yang terkandung dalam pesan yang dikirimkan. Sebagai ukuran informasi pesan yang dikirimkan M, Hartley mengusulkan penggunaan fungsi logaritma. Shannon adalah orang pertama yang mempertimbangkan pesan yang dikirimkan dan kebisingan dalam saluran komunikasi dari sudut pandang statistik, dengan mempertimbangkan kumpulan pesan yang terbatas dan kumpulan pesan yang berkelanjutan. Teori informasi yang dikembangkan oleh Shannon membantu memecahkan masalah utama yang terkait dengan transmisi pesan, yaitu: menghilangkan redundansi pesan yang dikirimkan, pengkodean dan transmisi pesan melalui saluran komunikasi dengan noise. Memecahkan masalah redundansi pesan yang dikirimkan memungkinkan penggunaan saluran komunikasi yang paling efisien. Misalnya, metode modern yang banyak digunakan untuk mengurangi redundansi dalam sistem penyiaran televisi saat ini memungkinkan transmisi hingga enam program televisi komersial digital dalam pita frekuensi yang ditempati oleh sinyal televisi analog konvensional. Memecahkan masalah transmisi pesan melalui saluran komunikasi dengan noise untuk rasio tertentu dari kekuatan sinyal yang berguna dengan kekuatan sinyal interferensi di lokasi penerima memungkinkan pesan untuk ditransmisikan melalui saluran komunikasi dengan kemungkinan kesalahan yang sangat rendah. transmisi pesan. Juga, rasio ini menentukan kapasitas saluran. Hal ini dipastikan dengan penggunaan kode yang tahan terhadap interferensi, sedangkan kecepatan transmisi pesan melalui saluran tertentu harus lebih rendah dari kapasitasnya. Dalam karyanya, Shannon membuktikan kemungkinan mendasar untuk memecahkan masalah yang teridentifikasi; ini adalah sensasi nyata di kalangan ilmiah di akhir tahun 40an. Penelitian ini, serta penelitian yang meneliti potensi kekebalan terhadap kebisingan, memunculkan sejumlah besar penelitian yang berlanjut hingga hari ini, selama lebih dari setengah abad. Ilmuwan dari Uni Soviet dan Amerika Serikat (USSR - Pinsker, Khinchin, Dobrushin, Kolmogorov; USA - Gallagher, Wolfowitz, Feinstein) memberikan interpretasi yang ketat terhadap teori yang digariskan oleh Shannon. Saat ini, semua sistem komunikasi digital dirancang berdasarkan prinsip dasar dan hukum transmisi informasi yang dikembangkan oleh Shannon. Sesuai dengan teori informasi, redundansi pertama-tama dihilangkan dari pesan, kemudian informasi tersebut dikodekan menggunakan kode yang tahan terhadap interferensi, dan baru kemudian pesan tersebut dikirimkan melalui saluran ke konsumen. Redundansi pesan televisi, suara, dan faks telah berkurang secara signifikan, berkat teori informasi.

Teorema kapasitas saluran.

Setiap saluran yang bising dicirikan oleh kecepatan transmisi informasi maksimum, batas ini dinamai Shannon. Saat mentransmisikan informasi dengan kecepatan melebihi batas ini, distorsi data yang tidak dapat dihindari terjadi, tetapi dari bawah batas ini dapat didekati dengan akurasi yang diperlukan, memastikan kemungkinan kesalahan yang sangat kecil dalam transmisi informasi di saluran yang bising.

Bidang keilmuan: Tempat kerja: Almamater: Dikenal sebagai: Penghargaan dan hadiah

Hadiah dinamai menurut namanya A.Nobel AIEE (1940);
Hadiah untuk mengenang M. Libman (Bahasa inggris) Rusia KEBENARAN (1949);
Medali Kehormatan IEEE (1966);
Medali Sains Nasional (1966);
Penghargaan Harvey (1972);
Hadiah Kyoto (1985).

Biografi

Pada tahun 1985, Claude Shannon dan istrinya Betty menghadiri Simposium Internasional Teori Informasi di Brighton. Shannon sudah cukup lama tidak menghadiri konferensi internasional, dan pada awalnya mereka bahkan tidak mengenalinya. Pada jamuan makan tersebut, Claude Shannon memberikan pidato singkat, menyulap hanya tiga bola, dan kemudian memberikan ratusan dan ratusan tanda tangan kepada para ilmuwan dan insinyur yang takjub yang berdiri dalam antrean panjang, merasakan perasaan hormat terhadap ilmuwan besar itu, membandingkannya dengan Tuan. Isaac Newton.

Teori komunikasi dalam sistem rahasia

Artikel "Teori komunikasi matematika"

Teorema Nyquist-Shannon (dalam literatur berbahasa Rusia - teorema Kotelnikov) adalah tentang rekonstruksi sinyal yang jelas dari sampel diskritnya.
(atau teorema enkripsi senyap) menetapkan batas kompresi data maksimum dan nilai numerik untuk entropi Shannon.
Teorema Shannon-Hartley

Lihat juga

Rumus interpolasi Whittaker-Shannon

Catatan

Literatur

Shannon C.E. Teori Komunikasi Matematika // Jurnal Teknis Sistem Bell. - 1948. - T. 27. - P. 379-423, 623-656.
Shannon C.E. Komunikasi di hadapan kebisingan // Proses. Institut Insinyur Radio. - Januari. 1949. - T. 37. - No. 1. - Hal. 10-21.
Shannon K. Bekerja pada teori informasi dan sibernetika. - M.: Penerbitan Sastra Asing, 1963. - 830 hal.

Tautan

Bibliografi (Bahasa Inggris)

Kategori:

Kepribadian dalam urutan abjad
Ilmuwan berdasarkan alfabet
Lahir pada tanggal 30 April
Lahir pada tahun 1916
Michigan lahir
Kematian pada 24 Februari
Meninggal pada tahun 2001
Kematian di Massachusetts
matematikawan Amerika
Teori informasi
Kriptografi
Sibernetika
Pelopor teknologi komputer
Peneliti Kecerdasan Buatan
Ilmuwan di bidang ilmu sistem
Alumni MIT
Alumni Universitas Michigan
fakultas MIT
Anggota dan Anggota Koresponden dari Akademi Ilmu Pengetahuan Nasional AS
Anggota Asing dari Royal Society of London
Matematikawan abad ke-20
Pemenang Penghargaan Harvey
Penerima Medali Sains Nasional AS
Penerima Medali Kehormatan IEEE
Orang:Catur komputer
Insinyur Listrik AS

Yayasan Wikimedia.