Горячее
Лучшее
Свежее
Подписки
Сообщества
Блоги
Эксперты
Войти
Забыли пароль?
или продолжите с
Создать аккаунт
Регистрируясь, я даю согласие на обработку данных и условия почтовых рассылок.
или
Восстановление пароля
Восстановление пароля
Получить код в Telegram
Войти с Яндекс ID Войти через VK ID
ПромокодыРаботаКурсыРекламаИгрыПополнение Steam
Пикабу Игры +1000 бесплатных онлайн игр Миллионер Стань богаче всех – это викторина по мотивам телешоу

Миллионер - Стань богаче всех

Головоломки, Логическая, Мобильная

Играть

Топ прошлой недели

  • Oskanov Oskanov 9 постов
  • Animalrescueed Animalrescueed 46 постов
  • AlexKud AlexKud 33 поста
Посмотреть весь топ

Лучшие посты недели

Рассылка Пикабу: отправляем самые рейтинговые материалы за 7 дней 🔥

Нажимая «Подписаться», я даю согласие на обработку данных и условия почтовых рассылок.

Спасибо, что подписались!
Пожалуйста, проверьте почту 😊

Помощь Кодекс Пикабу Команда Пикабу Моб. приложение
Правила соцсети О рекомендациях О компании
Промокоды Биг Гик Промокоды Lamoda Промокоды МВидео Промокоды Яндекс Маркет Промокоды Отелло Промокоды Aroma Butik Промокоды Яндекс Путешествия Постила Футбол сегодня
0 просмотренных постов скрыто
5
ideavi
ideavi
2 месяца назад
Серия Конструктор Интеграм: когда Excel не справляется

Excel vs Конструктор Интеграм⁠⁠

Excel -- величайшая программа, с помощью него можно править миром. Я использую его ежедневно, и он незаменим для разовых задач, пока...

Пока у вас меньше миллиона записей и в пределах десятка пользователей и не нужно работать с мобилы, и ваши сотрудники не воруют базу, и не нужно делать сложных запросов к данным, и вы не устали клонировать дни/недели/месяцы на разные листы и вам нет необходимости поставить его в локальной сети и он ещё не тормозит от количества вычислений. И так далее.

Предельная унификация конструктора напоминает фракталы: глубже и глубже в детали

Предельная унификация конструктора напоминает фракталы: глубже и глубже в детали

Хочу открыть серию постов про альтернативу отечественного производства, которой я пользуюсь для автоматизации рутинной работы и расчетов, с которыми не справляется эксель.

Типичный случай

Например, 400 тысяч сделок по продаже медицинского оборудования, по которым мне надо сделать обзвон клиентов, которые покупали что-то на общую сумму не меньше 5000 рублей от 1 до 2 лет назад и с тех пор ничего не покупали. Разбудить спящих и поднять выручку.

Для эксперта Excel такая задача не кажется сложной, и он выполнит её за пару-тройку часов, из которых большая часть уйдет на нормализацию данных.

Проблема в том, что задача эта повторяющаяся и тут — А-а-а!

Рутинная работа в экселе со временем превращается в кошмар

Рутинная работа в экселе со временем превращается в кошмар

Разумеется, когда эксперту на следующей неделе сделают следующую выгрузку этих данных со сдвигом в 1 неделю, то он будет всячески отлынивать от этой работы — заново всё нормализовывать, растаскивать формулы, устранять косяки и прочей рутины на несколько часов. Поэтому часто спящие клиенты спят дальше или обзвон идет по неактуальной базе, выбешивая клиентуру, или реализуется иной путь упущения прибыли.

Альтернативы здесь: заказная разработка на языках программирования или суррогаты экселя, которых много и они всё множатся. Например, можно настроить формулы в Airtable или даже Notion, а потом используя винегрет из ноукод-инструментов даже запустить вычисления и перенос данных с помощью make или n8n.

Я рассказываю о ещё одной альтернативе: вся мощь реляционной базы данных с интерфейсом, более-менее привычным пользователю экселя.

Конструктор Интеграм

Что за зверь Интеграм? Это ноукод-конструктор баз данных и приложений, в котором хорошо прокачана первая часть — про базы — и можно делать простые приложения для непритязательного пользователя.

В первый раз я его попробовал будучи совладельцем пары бизнесов, где администраторы присваивали себе часть выручки самыми хитроумными способами, большинство из которых сводилось к оформлению клиентских оплат задним числом.

С тех пор я использую этот инструмент в разных проектах, в том числе для заказной разработки, которой я в своё время активно занимался. Интеграм доступен в виде бесплатного облачного сервиса, где можно начать с чистого листа, как в экселе. Обычно всё и начинается с листа экселя, который я импортирую в сервис.

Если коротко, то процесс программирования такой:

  1. Загружаем эксель в систему универсальным средством импорта

  2. Дорабатываем структуру данных под себя

  3. Настраиваем отчеты для вычисления, сортировки и группировки

  4. Накликиваем формы для отображения данных и графиков

  5. Заводим пользователей и раздаем права

Платформы всё-в-одном

Конструктор Интеграм относится к классу систем всё-в-одном, в котором на сегодня есть всего 3 используемых в России продукта: 1С, bubble.io, coda.io. Первый из них вы наверняка хорошо знаете, а два последних уже недоступны без vpn.

Всё-в-одном означает объединение всех аспектов разработка: фронтенд, бэкенд, база данных (БД) и интеграции. Под фронтендом имеется в виду создание произвольных форм, а не предварительно заготовленные представления и шаблоны.

Как эти ни странно, игроков, у которых есть все эти составляющие, больше нет (если есть, а я мог упустить, буду рад услышать их имена в комментариях):

  1. Конструктор произвольной структуры реляционной (со связями) БД

  2. Конструктор запросов к данным и логики их обработки

  3. Конструктор произвольных форм и шаблонов

Есть множество прекрасных систем для создания баз данных, есть конструкторы веб-страниц и форм, но вот связать это всё в единое приложение и оживить пользовательской логикой без программирования больше нигде не удастся. Программировать бэкенд и логику придется на PHP, Javascript, Python или чём-то подобном.

При всей своей внешней неказистости Интеграм дает более продвинутые возможности для обработки данных, чем это доступно в любом конструкторе, и вполне сравнимые по мощности с традиционными средствами разработки. Например, конструктор SQL-запросов дает всю мощь реляционной базы данных, включая вложенные запросы и рекурсию.

Вот примерный порядок работы при создании приложения в конструкторе:

Пока это неизвестный широким массам конструктор, но команда активно занимается его продвижением. Я бы хотел поблагодарить этих людей за огромное количество времени и сил, сэкономленных при использовании конструктора, и могу помочь вам с его освоением бесплатно и даже без партнерской ссылки. Обращайтесь.

Спасибо!

Показать полностью 2 1
[моё] Microsoft Excel IT Автоматизация Видео RUTUBE Короткие видео Длиннопост
3
VelStyling
VelStyling
2 месяца назад
Серия SQL: знакомство

Структура запроса SQL и порядок выполнения блоков⁠⁠

Многие думают, что SQL читается сверху вниз — как написано, так и выполняется. Но это не так.
SQL-запрос устроен хитро: порядок написания ≠ порядок выполнения.

Структура запроса SQL и порядок выполнения блоков

Классический скелет запроса выглядит так:

SELECT — какие поля выбрать

FROM — из какой таблицы

JOIN — если нужно соединение

WHERE — фильтрация строк до агрегации

GROUP BY — группировка

HAVING — фильтрация групп (после агрегации)

ORDER BY — сортировка

LIMIT — ограничение количества строк

SELECT — это конструктор. Ты как будто сначала берёшь детали, потом отбираешь нужные, потом собираешь по группам, и только потом смотришь итог.

Мы привыкли, что текст читается слева направо, сверху вниз. Но не везде так:

  • в арабском и иврите — читают справа налево,

  • в китайском — традиционно писали сверху вниз.

Это не ошибка, не странность, а особенность языка, которая исторически так сложилась.

SQL — тоже «язык», и у него есть свои правила: мы пишем запрос сверху вниз, начиная с SELECT
А выполняется сам запрос совсем в другом порядке.

Об этом уже есть пост в моем новом канале На связи: SQL. Это канал про нюансы SQL, практические задачки и многое другое, что связано с аналитикой. Его я создала недавно абсолютно с нуля. Так что, если интересно, то подписывайся. А вот и ссылка на пост про последовательность выполнения запросов.

Где ещё встречается разница между тем, как пишут и как «читают»:

  • Музыка 🎼
    В нотах всё аккуратно записано: сверху вниз, слева направо. Но музыкант, читая ноты, должен сначала понять тональность, размер, темп, и только потом играть каждую ноту по порядку. То есть фактически исполняется не в том же порядке, как просто «прочитал глазами».

  • Рецепты в кулинарии 👩‍🍳
    В рецепте шаги написаны линейно: 1, 2, 3. Но когда готовишь, иногда сначала ставишь воду кипятиться, пока режешь овощи. Т.е. порядок написанного ≠ фактический порядок действий.

  • Юридические документы 📑
    Контракт читается сверху вниз, но при толковании юристы сначала смотрят на определения терминов, потом на условия, потом на исключения.

  • Программирование в целом 💻
    В коде написано: «вызови функцию А, потом Б». Но компилятор или интерпретатор сначала обрабатывает импорт библиотек, парсит синтаксис, оптимизирует, и только потом «доходит» до исполнения.

В SQL — такая же история: пишем запрос сверху вниз, но база данных «читает» его по-своему. Про фактический порядок выполнения я написал подробно в своём канале На связи: SQL, так что если интересно — загляните 😉

Показать полностью
[моё] Microsoft Excel Аналитика Эмоциональное выгорание SQL Аналитик База данных Самообразование Профессия Онлайн-курсы Бесплатное обучение Поиск работы Курсы
3
24
Skyscrew
Skyscrew
2 месяца назад

Графическое искусство⁠⁠

Графическое искусство
Картинка с текстом Microsoft Excel Excellent Мистер Бёрнс Симпсоны Арт
3
1
VelStyling
VelStyling
2 месяца назад
Серия SQL: знакомство

Таблицы в базах данных: где чаще всего "горит"⁠⁠

Когда мы слышим слова таблица, то сразу идет ассоциация со строками и столбцами. Но в базе данных - это не просто строки и столбцы, это мини вселенная со своими правилами и требованиями.

В своем канале На связи: SQL я рассказываю об особенностях языка SQL. Разбираю аналитические запросы и подходы работы с данными. Канал создала недавно с нулем подписчиков, но там уже есть интересная информация для работы аналитиков. Подписывайся!

Таблицы в базах данных: где чаще всего "горит"

И для формирования таблиц в БД есть свои требования, нюансы и особенности.

Очень часто аналитики сталкиваются со следующими проблемами при работе с данными:

Слишком много столбцов

Иногда пытаются «запихнуть всё» в одну таблицу. Получается «широкая простыня» с сотнями колонок.
Такой подход приводит к тому, что становится неудобно работать, запросы тормозят, а половина столбцов вообще пустая.

В этом случае необходимо прибегать к нормализации данных — разносить данные по отдельным связанным таблицам.

Грубо говоря, нормализация - это способ организации данных. Что именно хранится, где именно хранится и как все, что хранится, связано между собой.

Дублирование данных

В таблице могут храниться одни и те же данные по 100 раз (например, имя клиента в каждом заказе).

Это приводит к сложности обновления — изменил телефон в одном месте, а в другом он остался старым; объем БД растет, что требует увеличения ресурсов для работы с данными.

В этом случае необходимо выносить повторяющиеся данные в отдельные таблицы и связывать ключами.

И это тоже про нормализацию данных.

Пустые ячейки (NULL)

Есть поле, но оно ничем не заполнено. И тогда аналитик задается вопросом: что это значит? Что данных просто нет (их никто не вносит), данные вносят, но они потерялись при загрузке в таблицу, либо эти данные необходимо воспринимать как равные нулю...

В этом случае необходимо сначала посмотреть требования к источнику данных, есть ли там обязательность их заполнения. Если данные обязательны к заполнению, то стоит рассмотреть ETL (Extract Transform Load - извлечение, преобразование и загрузка) процесс данных.

И от полученных результатов принимать решение как расценивать NULL данные.

Неправильный тип данных

Телефон хранят как INT, даты — как текст, деньги — как FLOAT.
Такой подход приводит к тому, что в телефоне «съедается» +7, даты не сортируются, а деньги теряют копейки.

И аналитик не может корректно обрабатывать данные, что приводит либо к ошибкам в результатах, либо к увеличению этапа обработки данных для выполнения какой-либо аналитики.

В этом случае: только правильное использование типов данных.

Нет ключей и индексов

Ключи нам нужны, чтобы однозначно идентифицировать данные и связывать таблицы между собой.

Есть первичный ключ (Primary Key) и внешний ключ (Foreign Key)
Первичный ключ - это уникальный идентификатор. Например есть два Ивановых Ивана Ивановича, но у них будут разные ID. Этот ID будет однозначно идентифицировать каждого из них.
Внешний ключ - это ссылка на другую таблицу. Например есть таблица заказов и в ней есть поле client_id. Это поле будет ссылаться на ID нашего Иванова Ивана Ивановича в таблице с персональными данными.

Индексы нам нужны для ускорения поиска.

Представь, у тебя есть огромная книга (миллионы строк в таблице). Если ты ищешь слово вручную — придётся листать страницу за страницей.

Но если есть алфавитный указатель (индекс) — ты сразу находишь нужное слово.

Примеры:

  • Поиск клиента по номеру телефона

  • Поиск заказов по дате

  • Поиск товаров по категории

Индексы ускоряют запросы в разы, но требуют памяти и времени на обновление (поэтому ими злоупотреблять тоже не стоит).

Слияние «всего подряд»

Если таблицу использовать как свалку — складывать туда и клиентов, и товары, и заказы — это как в одной кастрюле сварить борщ, компот и макароны.
Итог: никто не понимает, что с этим есть.

А в канале На связи: SQL уже первые посты про структуры запросов и JOIN ждут тебя.

Если тебе нужна поддержка и мотивация или просто сопутствующие слова для твоего развития, то приходи в канала Сила слов. Там каждое утро тебя ждет мотивационное и поддерживающее послание.

Показать полностью
[моё] Моральная поддержка Мотивация SQL Аналитик Аналитика Анализ данных База данных Самообразование Смена профессии Смена работы Данные Microsoft Excel Длиннопост
2
2
kznalp
kznalp
2 месяца назад
Postgres DBA
Серия СУБД PostgreSQL

Особенности расчета коэффициента корреляции в PostgreSQL и Excel при постоянных значениях одной переменной⁠⁠

Особенности расчета коэффициента корреляции в PostgreSQL и Excel при постоянных значениях одной переменной

При обработке статистических данных очень важной задачей становится оценка взаимосвязей между различными переменными. Один из самых популярных способов измерения такой связи — использование коэффициента корреляции Пирсона (Pearson correlation coefficient). Обозначаемый символом r, он представляет собой меру линейной зависимости между двумя величинами. Несмотря на широкое распространение данного метода, важно учитывать специфику реализации этого показателя в разных инструментах обработки данных, таких как системы управления базами данных (СУБД) вроде PostgreSQL и программы электронных таблиц, такие как Microsoft Excel.

Формула коэффициента корреляции Пирсона

Особенности расчета коэффициента корреляции в PostgreSQL и Excel при постоянных значениях одной переменной

Значение коэффициента варьируется от -1 до +1, где положительные значения указывают на прямую связь, отрицательные — на обратную, а близость к нулю свидетельствует об отсутствии значительной линейной связи.

Особенности расчета коэффициента корреляции в PostgreSQL и Excel

Теперь рассмотрим некоторые важные аспекты применения данной формулы в реальных условиях, когда значения одной переменной остаются неизменными по сравнению с другой переменной.

1. Особенности расчета в PostgreSQL

PostgreSQL предоставляет удобную встроенную функцию corr(), позволяющую легко вычислить коэффициент корреляции Пирсона прямо внутри базы данных. Тем не менее, при её применении важно учитывать ряд нюансов:

Отсутствие вариации: Если все значения одной переменной полностью идентичны (то есть стандартное отклонение равно нулю), знаменатель формулы становится нулевым, вызывая деление на ноль. В результате функция вернёт неопределённое значение (NULL).

Численная нестабильность: Когда изменение одной переменной намного меньше, чем другой, возможно возникновение проблемы числовой стабильности. Компьютерная система работает с ограниченным числом знаков после запятой, поэтому малые разности могут быть усечены до нуля, искажая результаты расчётов.

Чтобы избежать подобных проблем, целесообразно заранее провести проверку на наличие дисперсии в данных, используя стандартные функции PostgreSQL, такие как stddev(). Эта мера позволит убедиться, что обе переменные имеют достаточно выраженный разброс значений.

2. Особенности расчета в Excel

Microsoft Excel предлагает аналогичную возможность для вычисления коэффициента корреляции посредством функции CORREL() / КОРРЕЛ(). Здесь также существуют свои тонкости:

Ошибка деления на ноль: Подобно PostgreSQL, если значения одной переменной абсолютно одинаковые, Excel столкнется с ошибкой деления на ноль и выведет сообщение "#DIV/0!".

Различия алгоритмов округления: Хотя основная математическая формула та же самая, внутренние механизмы работы Excel могут немного отличаться от других инструментов. Это связано с особенностями машинного представления вещественных чисел и процедурами округления промежуточных результатов. Эти отличия способны приводить к незначительным, но всё-таки заметным колебаниям в конечном ответе.

Ограничения по представлению чисел с плавающей запятой: Особенно это проявляется, когда масштабы сравниваемых переменных сильно различаются (например, большие числа цен товаров против небольших процентов скидок). Округление промежуточных шагов способно исказить итоговый результат.

Заключение

Итак, правильный подход к оценке коэффициента корреляции требует внимательного рассмотрения характеристик самих данных. Важно понимать структуру информации, подлежащей анализу, проводить предварительные проверки на наличие достаточной вариативности в обоих параметрах и избегать серьёзных перекосов в масштабах значений. В противном случае результат может оказаться неверным или интерпретироваться неправильно. Таким образом, аккуратность и тщательность подготовки данных являются залогом надёжности любых последующих выводов.

Дополнительные материалы по теме:

Особенности расчета коэффициента корреляции в PostgreSQL

Показать полностью 2
[моё] Исследования Статья Научпоп Postgresql Microsoft Excel Корреляция Длиннопост
0
4
kznalp
kznalp
2 месяца назад
Postgres DBA
Серия СУБД PostgreSQL

PostgreSQL и Excel по разному рассчитывают корреляцию⁠⁠

PostgreSQL (Версия 17)

CREATE TABLE test

(

id integer ,

n1 double precision ,

n2 double precision

);

INSERT INTO test

(

id ,

n1 ,

n2

)

VALUES

(

generate_series(1, 100),

trunc(random()*100),

0.01

);

select * from test order by 1;

id | n1 | n2

-----+----+------

1 | 15 | 0.01

2 | 95 | 0.01

3 | 17 | 0.01

...

97 | 44 | 0.01

98 | 63 | 0.01

99 | 59 | 0.01

100 | 24 | 0.01

corr ( Y double precision, X double precision ) → double precision

Вычисляет коэффициент корреляции.

SELECT corr( n1 , n2 ) FROM test ;

corr

--------------------

0.1460196805623383

(1 row)

Excel (Microsoft Office профессиональный 2016)

Импортировать таблицу . Числовой тип , 15 символов после запятой

Рассчитать корреляцию между столбцами n1 и n2

=КОРРЕЛ(B:B;C:C)

Результаты расчета корреляции

  • PostgreSQL : 0.1460196805623383

  • Excel : 0,000000000000000

Подробности и другие сценарии:

Особенности расчета коэффициента корреляции в PostgreSQL

Показать полностью 3
[моё] Postgresql Microsoft Excel Корреляция
1
MarinaDatamoon
MarinaDatamoon
2 месяца назад

Как понять, что ручной сбор данных тормозит ваш рост и бизнес⁠⁠

Представьте, у вас на столе кипа файлов из CRM, Excel, 1С, маркетинговых платформ и отчётов подрядчиков. Вы открываете их один за другим, копируете цифры, сверяете формулы, ищете пропавшие значения. Проходит час, два, три — а отчёт ещё даже не близок к готовности. Знакомо?

Если у вас хотя бы один из этих пунктов совпадает — пора серьёзно подумать об автоматизации 🧐

1️⃣ Каждый месяц отчёты превращаются в марафон

Сбор данных отнимает несколько рабочих дней, и всё это время ваши основные задачи лежат на паузе. В итоге бизнес теряет скорость, а вы тратите силы на рутину вместо анализа и принятия решений.

2️⃣ Ошибки в цифрах всплывают в самый неподходящий момент

Один пропущенный ноль, не туда вставленная формула или лишний клик — и уже готовый отчёт отправляется руководству с искажённой картиной. Исправления занимают ещё больше времени, а доверие к аналитике падает.

3️⃣ Вся аналитика хранится «в головах»

Есть один человек, который «знает, как свести всё в одну таблицу». Ушёл он в отпуск, уволился, /подставить своё/ — и процесс встал. Никакой прозрачности, никакой воспроизводимости.

4️⃣ Вы тонете в источниках данных

Продажи — в CRM, финансы — в Excel, маркетинг — в Google Analytics, заказы — в ERP. Каждый день вы как джунглер: скачиваете, копируете, вставляете, сверяете. И всё это — вручную.

5️⃣ Отчёт устаревает ещё до того, как его отправили

Вы сводите данные за прошлую неделю, а показатели уже изменились. Руководство принимает решения на устаревшей информации, а вы в очередной раз начинаете собирать обновлённые цифры.

BI-системы вроде Power BI избавляют от всей этой рутины. Один раз вы настраиваете подключение к источникам — и дальше всё обновляется автоматически. Данные приходят без ошибок, отчёты строятся в пару кликов, а вы тратите время на анализ, а не на Ctrl C + Ctrl V 👈

Показать полностью
IT Microsoft Аналитика Обучение Microsoft Excel Бизнес Ручная работа Технические проблемы Проблемы белых людей Бесплатное обучение Онлайн-курсы Текст
5
2868
KOPOBOPOTEHb
KOPOBOPOTEHb
2 месяца назад
Противозачаточные шутки

Ответ в ворде⁠⁠1

Юмор Мужчины и женщины Видео Вертикальное видео Короткие видео Instagram Обида Клип Microsoft Excel Kelly rowland Nelly
189
Посты не найдены
О нас
О Пикабу Контакты Реклама Сообщить об ошибке Сообщить о нарушении законодательства Отзывы и предложения Новости Пикабу Мобильное приложение RSS
Информация
Помощь Кодекс Пикабу Команда Пикабу Конфиденциальность Правила соцсети О рекомендациях О компании
Наши проекты
Блоги Работа Промокоды Игры Курсы
Партнёры
Промокоды Биг Гик Промокоды Lamoda Промокоды Мвидео Промокоды Яндекс Маркет Промокоды Отелло Промокоды Aroma Butik Промокоды Яндекс Путешествия Постила Футбол сегодня
На информационном ресурсе Pikabu.ru применяются рекомендательные технологии