Предлагаемая книга - это одновременно учебник и оригинальная монография по теории информации. Две независимые друг от друга части, составляющие книгу, написаны авторами на основе собственных лекций, читающихся в Школе анализа данных Яндекса. Автор первой части, Е.В.Щепин, рассматривает понятия теории информации как базу для решения задач машинного обучения, и прежде всего - задач построения классификатора по эмпирическим данным. Специальное внимание автор уделяет изучению случаев многомерных ограниченных данных, когда прямые методы оценки функций распределения вероятностей неприменимы. Обсуждение этих вопросов редко встречается в работах по теории информации. В предлагаемой книге изложение доведено до описания практических методов. Во второй части, написанной Н.К.Верещагиным, исследуются задачи о поиске на базе понятия информации по Хартли. В этой части описаны различные применения теории коммуникационной сложности (сложности описаний), даны основы логики знаний и теории...
Predlagaemaja kniga - eto odnovremenno uchebnik i originalnaja monografija po teorii informatsii. Dve nezavisimye drug ot druga chasti, sostavljajuschie knigu, napisany avtorami na osnove sobstvennykh lektsij, chitajuschikhsja v Shkole analiza dannykh Jandeksa. Avtor pervoj chasti, E.V.Schepin, rassmatrivaet ponjatija teorii informatsii kak bazu dlja reshenija zadach mashinnogo obuchenija, i prezhde vsego - zadach postroenija klassifikatora po empiricheskim dannym. Spetsialnoe vnimanie avtor udeljaet izucheniju sluchaev mnogomernykh ogranichennykh dannykh, kogda prjamye metody otsenki funktsij raspredelenija verojatnostej neprimenimy. Obsuzhdenie etikh voprosov redko vstrechaetsja v rabotakh po teorii informatsii. V predlagaemoj knige izlozhenie dovedeno do opisanija prakticheskikh metodov. Vo vtoroj chasti, napisannoj N.K.Vereschaginym, issledujutsja zadachi o poiske na baze ponjatija informatsii po Khartli. V etoj chasti opisany razlichnye primenenija teorii kommunikatsionnoj slozhnosti (slozhnosti opisanij), dany osnovy logiki znanij i teorii...
