Webスクレイピングの勉強会に行ってきた

ここ最近のGoogle App Engineいじりで、PythonでのWebスクレイピング欲が高まってところ、たまたま勉強会を見つけたので、参加してみた。

第1回Webスクレイピング勉強会@東京

昨今、オープンデータ運動の影響で、RDFデータで構成される”データのWeb”への注目が増しています。
“データのWeb”は、GOODデータの共有データストアです。
しかし、現実問題として、RDFデータ間の関係設計やインフラ整備を行う人材は多くなく、データの質は確保できても量は確保できていません。

私達は、もう一つのWebの可能性に注目します。

もう一つのWeb、すなわちHTMLデータで構成される”ドキュメントのWeb”です。
“ドキュメントのWeb”は、BADデータの共有データストアです。
そこから情報解析の為にデータ取得する事は、著作権法第47条の7で保護されています。
“データのWeb”と”ドキュメントのWeb”を一つのデータストアとして活用できれば、それは理想的な未来です。

その理想的な未来にたどり着くための技術の走りが”Webスクレイピング”であると思います。
私達は、この技術を持つ人々がLinkする環境を提供し共に刺激し合う事で、この理想的な未来へ貢献します。

 

 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

最近は自分でプログラムをガリガリ書かなくても、SaaS型のサービスでスクレイピングできたりするみたいね。自分でガリガリ書く利点としては、社内ローカルのシステムの情報を引っ張るとか、社外秘が絡むものかな。エンタープライズ契約もあったりするらしいけど、会社のポリシーとぶつかったら実現できないし。個人的に、クソUIな社内システム上の情報をスクレイピングでぶっこ抜いて業務を効率化したいところ。

こういう勉強会に行くと、自分の興味のあるジャンルをやろうとしている他の人達の顔も見えていいですね。

Qiitaにもまとめが上がったみたい↓
第1回Webスクレイピング勉強会@東京 (全3回)

関連記事

FreeMoCap Project:オープンソースのマーカーレスモーションキャプチャ

3D復元技術の情報リンク集

OpenMesh:オープンソースの3Dメッシュデータライブラリ

ROSでガンダムを動かす

オープンソースの物理ベースレンダラ『Mitsuba』をMayaで使う

iPhone x ロボットハッカソン~RomoのiPhone用SDKで目覚ましアプリを作る~

頭蓋骨からの顔復元と進化過程の可視化

Accord.NET Framework:C#で使える機械学習ライブラリ

Mechanizeで要認証Webサイトをスクレイピング

OpenCV 3.3.0-RCでsfmモジュールをビルド

Unityからkonashiをコントロールする

法線マップを用意してCanvas上でShadingするサンプル

iOSで使えるJetpac社の物体認識SDK『DeepBelief』

サンプルコードにも間違いはある?

Raspberry Pi 2を買いました

今年もSSII

Human Generator:Blenderの人体生成アドオン

TensorFlowでCGを微分できる『TensorFlow Graphics』

3Dモデルを立体視で確認できるVRアプリを作っている

WordPressのサーバ引っ越し方法を考える

Google Chromecast

Raspberry Piでセンサーの常時稼働を検討する

OpenGV:画像からカメラの3次元位置・姿勢を推定するライブラリ

ブログのデザイン変えました

オープンソースの人体モデリングツール『MakeHuman』のAPI開発プロジェクトがスタート

C++の抽象クラス

タマムシっぽい質感

ブログがダウンしてました

Google XML Sitemap Generatorプラグインを3.4.1へダウングレード

Unityで学ぶC#

TorchStudio:PyTorchのための統合開発環境とエコシステム

OpenCV 3.1のsfmモジュールのビルド再び

マルコフ連鎖モンテカルロ法

UnityでARKit2.0

COLMAP:オープンソースのSfM・MVSツール

Pythonの自然言語処理ライブラリ『NLTK(Natural Language Toolkit)』

iOSデバイスと接続して連携するガジェットの開発方法

組み込み向けのWindows OS 『Windows Embedded』

WordPressプラグインの作り方

Manim:Pythonで使える数学アニメーションライブラリ

html5のcanvasの可能性

Raspberry Pi

コメント