ここ最近のGoogle App Engineいじりで、PythonでのWebスクレイピング欲が高まってところ、たまたま勉強会を見つけたので、参加してみた。
昨今、オープンデータ運動の影響で、RDFデータで構成される”データのWeb”への注目が増しています。
“データのWeb”は、GOODデータの共有データストアです。
しかし、現実問題として、RDFデータ間の関係設計やインフラ整備を行う人材は多くなく、データの質は確保できても量は確保できていません。私達は、もう一つのWebの可能性に注目します。
もう一つのWeb、すなわちHTMLデータで構成される”ドキュメントのWeb”です。
“ドキュメントのWeb”は、BADデータの共有データストアです。
そこから情報解析の為にデータ取得する事は、著作権法第47条の7で保護されています。
“データのWeb”と”ドキュメントのWeb”を一つのデータストアとして活用できれば、それは理想的な未来です。その理想的な未来にたどり着くための技術の走りが”Webスクレイピング”であると思います。
私達は、この技術を持つ人々がLinkする環境を提供し共に刺激し合う事で、この理想的な未来へ貢献します。
最近は自分でプログラムをガリガリ書かなくても、SaaS型のサービスでスクレイピングできたりするみたいね。自分でガリガリ書く利点としては、社内ローカルのシステムの情報を引っ張るとか、社外秘が絡むものかな。エンタープライズ契約もあったりするらしいけど、会社のポリシーとぶつかったら実現できないし。個人的に、クソUIな社内システム上の情報をスクレイピングでぶっこ抜いて業務を効率化したいところ。
こういう勉強会に行くと、自分の興味のあるジャンルをやろうとしている他の人達の顔も見えていいですね。
Qiitaにもまとめが上がったみたい↓
第1回Webスクレイピング勉強会@東京 （全3回）
関連記事
CycleGAN：ドメイン関係を学習した画像変換
OpenGV：画像からカメラの3次元位置・姿勢を推定するライ...
OpenMVSのサンプルを動かしてみる
オープンソースの物理ベースGIレンダラ『appleseed』
Model View Controller
法線マップを用意してCanvas上でShadingするサンプ...
OpenCVの顔検出過程を可視化した動画
C#で使える遺伝的アルゴリズムライブラリ『GeneticSh...
Google App EngineでWordPress
iOSデバイスのためのフィジカル・コンピューティングツールキ...
SVM (Support Vector Machine)
Structure from Motion (多視点画像から...
WordPress on Windows Azure
CGALDotNet：計算幾何学ライブラリ CGALのC#ラ...
OpenCV 3.3.0-RCでsfmモジュールをビルド
iPhoneアプリ開発 Xcode 5のお作法
Unityの薄い本
ドラマ『ファーストクラス』のモーショングラフィックス
FreeMoCap Project：オープンソースのマーカー...
Google Colaboratoryで遊ぶ準備
オープンソースのロボットアプリケーションフレームワーク『RO...
チャットツール用bot開発フレームワーク『Hubot』
マルコフ連鎖モンテカルロ法
ブログをwpXレンタルサーバーからwpX Speedへ移行
定数
Javaで作られたオープンソースの3DCGレンダラ『Sunf...
BlenderのPython環境にPyTorchをインストー...
UnityプロジェクトをGitHubで管理する
COLMAP：オープンソースのSfM・MVSツール
SONY製のニューラルネットワークライブラリ『NNabla』
AndroidもopenGLも初心者さ (でもJavaは知っ...
Multi-View Environment：複数画像から3...
Amazon EC2ログイン用の秘密鍵を無くした場合の対処方...
Blender 2.8がついに正式リリース！
Human Generator：Blenderの人体生成アド...
GoB：ZBrushとBlenderを連携させるアドオン
Caffe：読みやすくて高速なディープラーニングのフレームワ...
MB-Lab：Blenderの人体モデリングアドオン
Raspberry Pi
科学技術計算向けスクリプト言語『Julia』
TorchStudio：PyTorchのための統合開発環境と...
OpenCV
コメント