19

ФНС и МногоДата

Камрады, думаю что многим будет интересно утром посмеяться... А так как тут и налоговая, и данные, которые в теории можно открыть и в Экселе, думаю кому-то будет интересно... Но напомню - ОНИ собирают наши налоги.. (потому еще смешнее)
В общем кто не в курсе - скоро ФНС будет заместо Википедии - все знать про всех и каждого (кому интересно - гуглируйте, инфы много, но "песня не об этом")...
В рамках создания того самого реестра в  ФНС начали переезжать некоторые базы данных. Допустим переехал общий реестр адресов РФ. Уточню - фамилий там нет, а вот адрес КАЖДОГО дома в РФ - есть. И это не Кадастр, там другая структура и смыслово база другая. И данные эти данные достаточно объемны + ну не на расхват это уж точно. Развернутая СУБД должна "на слух" под 50Гб весить, а чтобы с ней работать нужен уже другой стэк софта и железа....  Но случилось так, что мне как раз "в коллекцию не хватает", что-то я проникся системой "Открытые данные", и по работе СЛИШКОМ частно все это использую. Дождавшись утречка - открываю ссылочку, обратите внимание на РАЗМЕР, ну просто для понимания...

Там же и инструкция, ознакомимся пожалуй, пока эти бешеные гигабайты будут скачиваться... И вот уже на открытии инструкции уже "пробрало"..

Тут чуть лирического отступления - в РФ (что немного странно, но правда) достаточно хорошо работает система Открытые Данные. То есть вот прям настолько, что если данные не подпадают под закон (какой-нибудь) - то они будут в интернетах и будут обновляться раз  в неделю.. И для тех, кто с ними работает - это просто ПРАЗДНИК, но вернемся у ФэНесе...
Открытые данные, 10гб база, файл в ВОРДЕ. С ССЫЛКОЙ.НА САЙТ ФНС. То есть я скачал файл в с сайта чтобы получить ссылку на сайт.. Окич, лезем дальше..

Про "может меняться IP" оставим, пустое... А вот "возвращает в формате Json".. Я от страха с интересом подумал что они на мидл-обработчике-ноSQL замутили 10гб архива с данными.. Потом полез читать описание. DBF... стоп... DBF?! БД написана в 1970х годах...  Кто с 1эсой работал - вот это ТО САМОЕ глючное говно, которое было в 1С вначале 2000х.. Ладно, пофигу, XML есть? Давайте его сюда. (за компанию посмотрел я на тот JSON - вопрос "А ЗАХУЙ им тут JSON?" я решил даже про себя задавать.. Ну оказалось JSON нам для JSONa, вот потому что...

Все, весь JSON... А ведь можно было бы ну там хотя бы ХЕШ АРХИВА? Не? Да и пес с ним - база как раз скача.. что?

Ладно, думаю может повезло и как раз на серваке у них поменялся айпишник в это время... Ставлю еще разик на скачивание, а так как открывать 10Гб я с локалки и не собирался, то сразу и
ssh
sudo get update
get upgrade
CURl https://fias.nalog.ru/DownloadUpdates?file=fias_xml.zip&...

А курл мне и курлыкнул

Ну и архив которых я скачал на локалку - тож кривой как и первый)
Вот такая автоматизация... все в порядке.. только чуть весело)

П.С. Если кому интересно - как я ее все-таки скачаю - могу скинуть кусочек для ознакомления. На самом деле это может и исправить ситуацию с такими косорезами.. а может и нет, все равно интересно посмотреть)

MS, Libreoffice & Google docs

783 поста15K подписчиков

Правила сообщества

1. Не нарушать правила Пикабу

2. Публиковать посты соответствующие тематике сообщества

3. Проявлять уважение к пользователям

4. Не допускается публикация постов с вопросами, ответы на которые легко найти с помощью любого поискового сайта.

По интересующим вопросам можно обратиться к автору поста схожей тематики, либо к пользователям в комментариях


Важно - сообщество призвано помочь, а не постебаться над постами авторов! Помните, не все обладают 100 процентными знаниями и навыками работы с Office. Хотя вы и можете написать, что вы знали об описываемом приёме раньше, пост неинтересный и т.п. и т.д., просьба воздержаться от подобных комментариев, вместо этого предложите способ лучше, либо дополните его своей полезной информацией и вам будут благодарны пользователи.

Утверждения вроде "пост - отстой", это оскорбление автора и будет наказываться баном.

1
Автор поста оценил этот комментарий

сам себе признайся что чутка обосрался. Согл?
Благородные доны так не выражаются. Ведь в интернете в ответ могут на хуй послать.


копируй отсюда прям в люникс

Иллюстрация к комментарию
раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Сделал еще проще - нашел тебе видео...

Предпросмотр
YouTube2:32
показать ответы
1
Автор поста оценил этот комментарий

сам себе признайся что чутка обосрался. Согл?
Благородные доны так не выражаются. Ведь в интернете в ответ могут на хуй послать.


копируй отсюда прям в люникс

Иллюстрация к комментарию
раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Видюшку тебе снять? Без сарказма

0
Автор поста оценил этот комментарий

Конечно, правда, мне стандартных средств обычно хватало. Да и 200 ГБ "большими объёмами" можно назвать весьма с натяжкой.

Рассматривайте dbf как формат передачи данных, затягивайте в свою любимую СУБД и будет счастье.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

А по поводу конвертации данных - слишком разное понимание даже внутри SQL, оттуда и был вопрос... что есть то их сколько угодно, а сидеть потом приходится в 80% случаев, даже при миграции внутри разных версий одной субд

0
Автор поста оценил этот комментарий

Конечно, правда, мне стандартных средств обычно хватало. Да и 200 ГБ "большими объёмами" можно назвать весьма с натяжкой.

Рассматривайте dbf как формат передачи данных, затягивайте в свою любимую СУБД и будет счастье.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Да не по объему это считают.. какая разница сколько строк/ гигов, важно сколько денег этл принесёт. А сколько серверов будет обрабатывать - да в наше время уже пофигу.. по этому специалистов по СУБД многократно больше, нежели специалистов по работе с данными

2
Автор поста оценил этот комментарий

Не нравится dbf - импортируй в ту базу, которая нравится, формат страрый, конверторов море. База в виде json весила бы в три раза больше, зачем там json, потому что модно? IP не использовать - совершенно правильная рекомендация, поменяют они хостинг и уедпт у вас всё. Хэш для контроля целостности отдельно не нужен, при распаковке целостность и так проверяется. Формат глючный потому, что глючила программа, которая его использовала - ну тут вообще логики нет. Короче, эмоций много, реальных проблем мало.

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

Ну как бы спасибо что мне мои слова по JSON обьяснили, непонятно зачем правда, но бывает.
ФНС поменяет хостинг? Ааа, понял)
В общем спс что держите в курсе событий)

Отдельно П.С. - вы когда-нибудь в жизни конверторами СУБД из noSQL в SQL на больших объемах пользовались?

показать ответы
0
Автор поста оценил этот комментарий

ssh
sudo get update
get upgrade
CURl https://fias.nalog.ru/DownloadUpdates?file=fias_xml.zip&amp=;...
2 и 3 команда это что-то на эльфийском?

4 - CURl - command not found

раскрыть ветку (1)
0
Автор поста оценил этот комментарий

ubuntu

0
Автор поста оценил этот комментарий
И в каком из миллиарда дистрибутивов так работает? Вот если в начало добавить apt...
раскрыть ветку (1)
Автор поста оценил этот комментарий

до начала команды на знак обратите внимание.. мож в нем дело?)

Иллюстрация к комментарию
0
Автор поста оценил этот комментарий
И в каком из миллиарда дистрибутивов так работает? Вот если в начало добавить apt...
раскрыть ветку (1)
Автор поста оценил этот комментарий

18.04.5 убунта... и всегда вроде бы и работало..

3
Автор поста оценил этот комментарий

Периодически скачиваю КЛАДР, надо по профессиональной деятельности.

Проблем не встречал. У Вас архив не докачался. ФНС в том не виновата.


Развернутая СУБД должна "на слух" под 50Гб весить, а чтобы с ней работать нужен уже другой стэк софта и железа..

Для информации: К+ весит около 200Гб, никаких особых стеков не требуется.


Открытые данные, 10гб база,

Утоптанная архиватором база. Что не так-то?

раскрыть ветку (1)
Автор поста оценил этот комментарий

Да, в 2021 10Гб заархивированного noSQL 1997 года разлива)
А про базу - датекакое там))

показать ответы
0
Автор поста оценил этот комментарий

ssh
sudo get update
get upgrade
CURl https://fias.nalog.ru/DownloadUpdates?file=fias_xml.zip&amp=;...
2 и 3 команда это что-то на эльфийском?

4 - CURl - command not found

раскрыть ветку (1)
Автор поста оценил этот комментарий

Давай вот на честное мужское - копируй отсюда прям в люникс. Если запустится - значит вот сам себе признайся что чутка обосрался. Согл?

показать ответы

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества