|
| 1 | +# Что такое данные? |
| 2 | + |
| 3 | +| ](../../../sketchnotes/03-DefiningData.png)| |
| 4 | +|:---:| |
| 5 | +|Что такое данные - _Рисунок [@nitya](https://twitter.com/nitya)_ | |
| 6 | + |
| 7 | +Данные - это факты, информация, наблюдения и измерения, которые используются для совершения открытий и для принятия информированных решений. Экземпляр данных - единичная сущность внутри датасета - коллекции экземпляров. Датасеты могут иметь различный формат и структуру в зависимости от источника данных и их природы. Например, данные о ежемесячной выручке компании могут лежать в таблице, а почасовые данные сердечного ритма с умных часов - в формате [JSON](https://stackoverflow.com/a/383699). Очень часто дата сайентистам приходится работать с разными типами данных в рамках одного датасета. |
| 8 | + |
| 9 | +В данном уроке мы сосредоточимся на описании и классификации данных по их характеристикам и источникам. |
| 10 | + |
| 11 | + |
| 12 | +## [Вступительный тест](https://red-water-0103e7a0f.azurestaticapps.net/quiz/4) |
| 13 | + |
| 14 | +## Классификация данных |
| 15 | +**"Сырые" данные** - это необработанные данные, полученные из источника без дополнительного анализа или организации. Для того, чтобы понять, что содержит в себе датасет, необходимо привести данные к формату, одинаково понятному как человеку, так и методам, которые могут быть использованы при их анализе. Структура датасета характеризует его содержание, которое делится на структурированные, неструктурированные и полуструктурированные данные. Эти типы структуры могут изменяться в зависимости от источника, но в конечном счёте все равно принадлежат одной из трёх упомянутых категорий. |
| 16 | + |
| 17 | + |
| 18 | +### Количественные данные |
| 19 | +Количественные данные - это численные наблюдения внутри датасета, которые обычно могут быть проанализированы, измерены и использованы при расчетах. Примеры таких данных: население страны, рост человека или поквартальная выручка компании. При дополнительном анализе, количественные данные могут быть использованы для обнаружения сезонных трендов в Индексе качества воздуха (AQI) или при оценке вероятности пробок в час пик в обычный рабочий день. |
| 20 | + |
| 21 | + |
| 22 | +### Качественные данные |
| 23 | +Качественные данные, также известные как категориальные, - это данные, которые не могут быть объективно измерены, в отличие от количественных наблюдений. В общем случае, они представляют из себя различные форматы субъективных данных, которые оценивают качество чего-либо, например товара или процесса. Иногда, качественные данные представлены в численном формате, но не могут быть обработаны обычными математическими методами, как например номера телефонов или временные интервалы. Примеры качественных данных: комментарии к видео, марка и модель автомобиля, любимый цвет Вашего близкого друга. Количественные данные можно использовать для того, чтобы понять, какие товары больше нравятся потребителями или определить популярные ключевые слова в резюме претендентов. |
| 24 | + |
| 25 | + |
| 26 | +### Структурированные данные |
| 27 | +Структурированные данные - это данные, которые организованы в строки и столбцы, при этом каждая строка имеет одинаковый набор столбцов. Стоблцы обозначают величину определённого типа и имеют название, отражающее эту величину, в то время как строки содержат значения этой величины. Столбцы часто имеют специальный набор правил или ограничений для значений, чтобы гарантировать соответствие между столбцом и значениями в нём. Представьте таблицу клиентов, в которой каждая строка должна иметь номер телефона и номера телефонов никогда не содержат букв. Таким образом, можно применить правило к столбцу номеров телефона, чтобы убедиться, что он не содержит пустых значений и содержит только цифры. |
| 28 | + |
| 29 | +Преимущество структурированных данных в том, что они могут быть организованы таким образом, который соотносится с другим набором структурированных данных. Однако, из-за того, что данные должны быть организованны определённым способом, внесение изменений в общую структуру может быть затруднительным. Например, добавление колонки с адресом электронного ящика в таблицу клиентов, которая не может быть пустой, означает, что Вам необходимо продумать, как добавить эти значения в существующие строки датасета, соответствующие клиентам. |
| 30 | + |
| 31 | +Примеры структурированных данных: таблицы, реляционные базы данных, телефонные номера, выписки из банка. |
| 32 | + |
| 33 | + |
| 34 | +### Неструктурированные данные |
| 35 | +Неструктурированные данные обычно не могут быть организованы по строкам или столбцам и не имеют строгого формата и набора правил. Благодаря тому, что неструктурированные данные содержат меньше ограничений на свою структуру, добавить новую информацию в них гораздо легче, чем в случае со структурированными данными. Если датчик, измеряющий давление каждые две минуты, получит обновление, которое позволит измерять и сохранять температуру, то в случае неструктурированных данных нет необходимости изменять уже существующие данные. Однако, такой подход требует более тщательного анализа и исследования выбранного типа данных. Например, специалист, который хочет найти среднюю температуру за предыдущий месяц из показаний датичков, может обнаружить, что датчики в некоторых случаях записали "е" чтобы обозначить поломку, соответственно, данные будут неполными. |
| 36 | + |
| 37 | +Примеры неструктурированных данных: текстовые файлы, текстовые сообщения, видеофайлы. |
| 38 | + |
| 39 | + |
| 40 | +### Полуструктурированные данные |
| 41 | +Полуструктурированные данные имеют свойства как структурированных, так и неструктурированных данных. Обычно, они не соответствуют табличному формату, но организованы таким образом, который считается структурированным и могут иметь фиксированный формат данных и набор правил. Структура может отличаться от источника к источнику, от строго определённой иерархии до чего-то более гибкого, что позволяет более простое слияние с новой информацией. Метаданные - это индикаторы, которые помогают понять, как данные организованы и хранятся, и имеют различные наименования в зависимости от типа данных. Наиболее распространённые наименования метаданных: теги, элементы, сущности и аттрибуты. Например, обычное электронное письмо имеет тему, тело и набор адресатов и может быть организовано по адресам и датам отправки. |
| 42 | + |
| 43 | +Примеры полуструктурированных данных: HTML страницы, CSV файлы, файлы JSON. |
| 44 | + |
| 45 | +## Источники данных |
| 46 | + |
| 47 | +Источник данных - место, где данные были изначально сгенерированы, или где они "лежат", оно может отличаться от того, как и когда данные были собраны. Данные, сгенерированные пользователем (пользователями) называются первичными, а собранные из источника и пригодные для использования - вторичными. Например, группа специалистов, собравших наблюдения в тропическом лесу, буду называть их первичными, а если они поделятся ими с другими, то относительно другой группы данные будут считаться вторичными. |
| 48 | + |
| 49 | +Базы данных - общепринятый источник данных, который управляется и поддерживается системой управления базой данных (СУБД), в которой пользователи при помощи команд инициируют запросы для получения данных. В качестве источников могут выступать аудиофайлы, изображения, видеофайлы, а также таблицы, например файлы Excel. Интернет - распространённое место для хранения данных, где можно найти как базы данных, так и файлы. Прикладные программные интерфейсы, также известные как API, дают программистам возможность создавать различные способы обмена данными с внешними пользователями через Интернет, а парсинг веб-страниц извлекает информацию с сайтов. На уроках [работы с данными](../../../2-Working-With-Data) мы обратим внимание на то, как использовать различные источники данных. |
| 50 | + |
| 51 | +## Заключение |
| 52 | + |
| 53 | +На данном уроке мы изучили: |
| 54 | + |
| 55 | +- Что такое данные |
| 56 | +- Как можно описать данные |
| 57 | +- Классификацию данных |
| 58 | +- Где хранятся данные |
| 59 | + |
| 60 | +## 🚀 Задача |
| 61 | + |
| 62 | +Портал Kaggle - отличный источник датасетов. Воспользуйтесь [средством поиска по датасетам](https://www.kaggle.com/datasets), чтобы найти интересные и охарактеризовать 3-5 датасетов по следующим критериям: |
| 63 | + |
| 64 | +- Являются ли данные количественными или качественными? |
| 65 | +- Являются ли данные структурированными, неструктурированными, полуструктурированными? |
| 66 | + |
| 67 | + |
| 68 | +## [Проверочный тест](https://red-water-0103e7a0f.azurestaticapps.net/quiz/5) |
| 69 | + |
| 70 | + |
| 71 | +## Материалы для самостоятельного изучения |
| 72 | + |
| 73 | +- Глава курса Microsoft Learn под названием ["Классификация данных"](https://docs.microsoft.com/ru-ru/learn/modules/choose-storage-approach-in-azure/2-classify-data) содержит детальную классификацию структурированных, полуструктурированных и неструктурированных данных. |
| 74 | + |
| 75 | +## Домашнее задание |
| 76 | +[Классификация датасетов](assignment.ru.md) |
0 commit comments