Webスクレイピングの勉強会に行ってきた

ここ最近のGoogle App Engineいじりで、PythonでのWebスクレイピング欲が高まってところ、たまたま勉強会を見つけたので、参加してみた。

第1回Webスクレイピング勉強会@東京

昨今、オープンデータ運動の影響で、RDFデータで構成される”データのWeb”への注目が増しています。
“データのWeb”は、GOODデータの共有データストアです。
しかし、現実問題として、RDFデータ間の関係設計やインフラ整備を行う人材は多くなく、データの質は確保できても量は確保できていません。

私達は、もう一つのWebの可能性に注目します。

もう一つのWeb、すなわちHTMLデータで構成される”ドキュメントのWeb”です。
“ドキュメントのWeb”は、BADデータの共有データストアです。
そこから情報解析の為にデータ取得する事は、著作権法第47条の7で保護されています。
“データのWeb”と”ドキュメントのWeb”を一つのデータストアとして活用できれば、それは理想的な未来です。

その理想的な未来にたどり着くための技術の走りが”Webスクレイピング”であると思います。
私達は、この技術を持つ人々がLinkする環境を提供し共に刺激し合う事で、この理想的な未来へ貢献します。

 


スポンサーリンク

 

 
 

 
 


スポンサーリンク

 
 

 
 

 
 

 
 

 
 

最近は自分でプログラムをガリガリ書かなくても、SaaS型のサービスでスクレイピングできたりするみたいね。自分でガリガリ書く利点としては、社内ローカルのシステムの情報を引っ張るとか、社外秘が絡むものかな。エンタープライズ契約もあったりするらしいけど、会社のポリシーとぶつかったら実現できないし。個人的に、クソUIな社内システム上の情報をスクレイピングでぶっこ抜いて業務を効率化したいところ。

こういう勉強会に行くと、自分の興味のあるジャンルをやろうとしている他の人達の顔も見えていいですね。

Qiitaにもまとめが上がったみたい↓
第1回Webスクレイピング勉強会@東京 (全3回)


スポンサーリンク

関連記事

html5のcanvasの可能性

Quartus II

Runway ML:クリエイターのための機械学習ツール

オープンソースの取引プラットフォーム

TorchStudio:PyTorchのための統合開発環境とエコシステム

PGGAN:段階的に解像度を上げて学習を進めるGAN

Manim:Pythonで使える数学アニメーションライブラリ

Mitsuba 3:オープンソースの研究向けレンダラ

OpenCV 3.1のsfmモジュールのビルド再び

.NETで使えるTensorFlowライクなニューラルネットワークライブラリ『NeuralNetwo...

Theia:オープンソースのStructure from Motionライブラリ

OANDAのfxTrade API

Webサイトのワイヤーフレームが作成できるオンラインツール

3Dモデルを立体視で確認できるVRアプリを作っている

Raspberry Pi 2のGPIOピン配置

3分の動画でプログラミングを学習できるサイト『ドットインストール』

NumSharp:C#で使えるNumPyライクな数値計算ライブラリ

MB-Lab:Blenderの人体モデリングアドオン

UnityでARKit2.0

第1回 3D勉強会@関東『SLAMチュートリアル大会』

『Geocities-izer』 どんなWebページも一昔前のダサいデザインに変えてくれるサービス

SVM (Support Vector Machine)

Raspberry Pi

C#で使える遺伝的アルゴリズムライブラリ『GeneticSharp』

WordPressのテーマを自作する

iOSで使えるJetpac社の物体認識SDK『DeepBelief』

hloc:SuperGlueで精度を向上させたSfM実装

Windows10でPyTorchをインストールしてVSCodeで使う

3DCG Meetup #4に行ってきた

Unity Scriptコーディング→Unreal Engine Scriptコーディング

BlenderのPython環境にPyTorchをインストールする

Konashiを買った

AMIMOTO(PVM版)で作成したインスタンスをAMIMOTO (HVM版)へ移行する

OpenCVの超解像(SuperResolution)モジュールを試す

UnityのAR FoundationでARKit 3

HTML5・WebGLベースのグラフィックスエンジン『Goo Engine』

Google製オープンソース機械学習ライブラリ『TensorFlow』のWindows版が公開された

Unreal Engineの薄い本

OpenMVS:Multi-View Stereoによる3次元復元ライブラリ

PythonのHTML・XMLパーサー『BeautifulSoup』

C++ 標準テンプレートライブラリ (STL)

GitHub Pagesで静的サイトを作る

コメント