Webスクレイピングの勉強会に行ってきた

ここ最近のGoogle App Engineいじりで、PythonでのWebスクレイピング欲が高まってところ、たまたま勉強会を見つけたので、参加してみた。

第1回Webスクレイピング勉強会@東京

昨今、オープンデータ運動の影響で、RDFデータで構成される”データのWeb”への注目が増しています。
“データのWeb”は、GOODデータの共有データストアです。
しかし、現実問題として、RDFデータ間の関係設計やインフラ整備を行う人材は多くなく、データの質は確保できても量は確保できていません。

私達は、もう一つのWebの可能性に注目します。

もう一つのWeb、すなわちHTMLデータで構成される”ドキュメントのWeb”です。
“ドキュメントのWeb”は、BADデータの共有データストアです。
そこから情報解析の為にデータ取得する事は、著作権法第47条の7で保護されています。
“データのWeb”と”ドキュメントのWeb”を一つのデータストアとして活用できれば、それは理想的な未来です。

その理想的な未来にたどり着くための技術の走りが”Webスクレイピング”であると思います。
私達は、この技術を持つ人々がLinkする環境を提供し共に刺激し合う事で、この理想的な未来へ貢献します。

 

 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

最近は自分でプログラムをガリガリ書かなくても、SaaS型のサービスでスクレイピングできたりするみたいね。自分でガリガリ書く利点としては、社内ローカルのシステムの情報を引っ張るとか、社外秘が絡むものかな。エンタープライズ契約もあったりするらしいけど、会社のポリシーとぶつかったら実現できないし。個人的に、クソUIな社内システム上の情報をスクレイピングでぶっこ抜いて業務を効率化したいところ。

こういう勉強会に行くと、自分の興味のあるジャンルをやろうとしている他の人達の顔も見えていいですね。

Qiitaにもまとめが上がったみたい↓
第1回Webスクレイピング勉強会@東京 (全3回)

関連記事

BlenderのPython環境にPyTorchをインストールする

BGSLibrary:OpenCVベースの背景差分ライブラリ

OpenMVSのサンプルを動かしてみる

ZBrushのZScript入門

OpenCV バージョン4がリリースされた!

Geogram:C++の3D幾何アルゴリズムライブラリ

OANDAのfxTrade API

OpenCV 3.3.0 contribのsfmモジュールのサンプルを動かしてみる

Russian3DScannerのトポロジー転送ツール『WrapX』

このブログのデザインに飽きてきた

ZScript

Alice Vision:オープンソースのPhotogrammetryフレームワーク

ROSでガンダムを動かす

AnacondaとTensorFlowをインストールしてVisual Studio 2015で使う

SONY製のニューラルネットワークライブラリ『NNabla』

Quartus II

ブラウザ上でJavaScript,HTML,CSSを書いて共有するサイト『jsdo.it』

WinSCP

CGレンダラ研究開発のためのフレームワーク『Lightmetrica (ライトメトリカ)』

Caffe:読みやすくて高速なディープラーニングのフレームワーク

Raspberry Pi 2を買いました

Pythonの自然言語処理ライブラリ『NLTK(Natural Language Toolkit)』

まだ続くブログの不調

書籍『OpenCV 3 プログラミングブック』を購入

動的なメモリの扱い

第1回 3D勉強会@関東『SLAMチュートリアル大会』

OpenCVの顔検出過程を可視化した動画

libigl:軽量なジオメトリ処理ライブラリ

機械学習で遊ぶ

Python拡張モジュールのWindows用インストーラー配布サイト

TensorSpace.js:ニューラルネットワークの構造を可視化するフレームワーク

MythTV:Linuxでテレビの視聴・録画ができるオープンソースプロジェクト

Raspberry Piでセンサーの常時稼働を検討する

OpenMVS:Multi-View Stereoによる3次元復元ライブラリ

Unityで学ぶC#

CycleGAN:ドメイン関係を学習した画像変換

openMVG:複数視点画像から3次元形状を復元するライブラリ

AfterEffectsプラグイン開発

WordPressプラグインによるサイトマップの自動生成

UnityからROSを利用できる『ROS#』

Cartographer:オープンソースのSLAMライブラリ

続・ディープラーニングの資料

コメント