Accessible Text Mining with Text Tools and the Chinese Text Project

Setup

  • Create a free account on ctext.org and log in.
  • Make sure to validate your e-mail address by opening the link the system sent you (if not, the link above will display a warning/reminder in red to do so).
  • Enter the API key “aas2019″ (without quotes) in the box labeled “API key”, and click “Save”.
  • [Optional] Install the “Text Tools” plugin into your ctext account.

Some parts of the “Practical introduction to ctext.org” and “Text Tools for ctext.org” will be demonstrated – please refer to the tutorials for step-by-step instructions.

Direct link to Text Tools: http://ctext.org/plugins/texttools/#help

Other suggested examples

In addition to the examples shown in the tutorials:

  • Try comparing the aggregate vocabulary of two texts (e.g. the 墨子 and 呂氏春秋) using the “Vectors” tab. Click “Toggle values” to display the heatmap, and try inspecting some of the comparisons.
  • Try the “Run PCA” link with these or other texts.
  • Try creating vectors that model only a specifically selected subset of vocabulary use. To do this, start by entering multiple search terms in the Regex tool (one per line) – one example would be grammatical particles such as 而, 也, 以, 乎, 之, 矣, 亦. From the “Summary” tab, click “Create vectors”, and then from the output choose “Run PCA”.
  • Using the regex tool with “Group rows by” set to “None” and “Extract groups” checked, try extracting data about biographies in the 宋史. You may want to start by using a small part of the text, e.g. 列傳第二十一 (ctp:ws281485). Example regex: (\w+),字(\w+),(\w+)人。
  • A few additional examples and instructions for using materials not written in classical Chinese are available on the SUTD workshop page.
Posted in Chinese, Digital Humanities, Talks and conference papers | Comments Off

Text Transformation API

Draft – This is a preliminary draft specification. Please note that some implementation details will change before publication. Last updated: 22 March 2019.

Overview

Transformations of textual data are important processes in many natural language processing and text analysis workflows. Examples include tokenization, lemmatization, and appending of part of speech tags, as well as many other (often language-specific) procedures. In this specification, a text transformation is any operation which takes as input a sequence of Unicode characters, and produces as output a sequence of Unicode characters. The Text Transformation API (TTA) defines a simple specification for how to negotiate, request, and deliver text transformations over HTTP.

A TTA server is a system which both: 1) publishes a TTA service manifest, and 2) provides or references at least one TTA transformation service endpoint.

Service manifest

A service manifest is a valid JSON file containing a list of transformation services. Each service is described using the following key-value pairs:

Key Value
endpoint The URL of the transformation service endpoint described by this entry.
languages A list of ISO 639-1 language codes to which the endpoint is relevant or recommended.
title A human readable description of the service the endpoint describes.

Transformation service endpoint

A transformation endpoint is a HTTP or HTTPS URL which accepts a string of text sent to it via the HTTP POST method using the “application/x-www-form-urlencoded” content type. The content of the string must be supplied in the “data” parameter of the request in UTF-8 encoding.

The response to any valid request must be a JSON file containing exactly one of the following key value pairs:

Key Value
output The contents of the “data” parameter transformed according to the service provided by the requested endpoint.
error A string explaining why the request failed.

Transformation client

A transformation client is any software which 1) requests TTA service manifests, specified by their URL; 2) provides a user with a means of viewing the “title” descriptions of the endpoints from any conformant TTA manifest, and 3) provides a user with a means of transforming texts using any conformant endpoint.

Examples

A non-normative example of a TTA service manifest (containing references to example TTA service endpoints) is: https://txt.ctext.org/services.pl

A non-normative example of a TTA client is accessible here.

Posted in Digital Humanities | Comments Off

SUTD Workshop

Materials from a workshop held as part of Working with different kinds of ‘text’ in the Digital Humanities at the Singapore University of Technology and Design.

Setup

We will follow parts of the “Practical introduction to ctext.org” and “Text Tools for ctext.org” tutorials with a few changes to use English language texts as well as Chinese ones, and a few new features of the beta version not yet included in the tutorials.

Link to Text Tools (beta version): http://ctext.org/plugins/texttoolsbeta/#help

Important note/reminder: For tools which have this option, we will use “Tokenize by character” set to “On” for the Chinese materials, and “Off” for the English ones.

Other suggested examples

As well as the examples shown in the tutorials:

  • Try some regexes on the English examples. A useful expression is likely to be “\w+” – any sequence of non-punctuation characters (intuitively, a word). Try as an example “the \w+”.
  • Using the “English_wordlist.txt” file as a list of regexes (just paste the contents of the file into the “Regex” box), generate vectors for the two Wizard of Oz stories. Run PCA on the results – you should see interesting differences between the two. Also try preprocessing the data by tokenizing and lowercasing the texts.
  • Try tokenizing one or modern Chinese documents [example].
  • Using the regex tool with “Group rows by” set to “None” and “Extract groups” checked, try extracting data about biographies in the 宋史. You may want to start by using a small part of the text, e.g. ctp:ws55241. Example regex: (\w+),字(\w+),(\w+)人。
Posted in Chinese, Digital Humanities | Comments Off

Large-scale Optical Character Recognition of Pre-modern Chinese Texts

This paper appears in International Journal of Buddhist Thought and Culture 28(2) (December 2018). [Full paper]

Abstract

Optical character recognition (OCR) – the fully automated transcription of text appearing in a digitized image – offers transformative opportunities for the scholarly study of written materials produced prior to the digital age. Digitization, in the sense of photographic reproduction, is a largely straightforward, mechanical process, and one with significant value in its own right for purposes of preservation as well as access to rare materials. As a result, hundreds of millions of pages of pre-modern Chinese works have been digitized by libraries and academic institutions around the world – a significant portion of this increasingly being made freely available online.

To make use of this material efficiently, transcriptions of the textual content of these images are needed. Given the enormous volume of image data in existence – and its continual production as digitization continues – this task is only feasible if it can be fully automated: performed by software without manual intervention. Individually, reliable transcriptions produced by OCR offer enormous time savings to researchers, making it possible to efficiently navigate materials in ways not possible without digital transcription. In aggregate, however, these transcriptions make possible entirely new ways of exploring historical materials – making it possible to rapidly identify material that one suspects may exist somewhere, without knowing in advance where that might actually be. It is also a prerequisite also to virtually any type of statistical analysis of these materials – the potential utility of which continues to increase as a larger and larger proportion of the extant corpus is transcribed.

This paper introduces a procedure for OCR of pre-modern Chinese written materials, both printed and handwritten, describing the complete process from digitized image through to automated transcription and manual correction of remaining errors, with particular attention to issues arising in this domain. The process described has been applied to over 25 million pages of pre-modern Chinese works, and the paper also introduces the Chinese Text Project platform used to both make these results available to scholars as well as provide a distributed, crowdsourced mechanism for facilitating manual corrections at scale as well as further analysis of these materials.


Noise removal

Character pitch identification

Seal isolation

Posted in Chinese, Digital Humanities | Comments Off

EASTD 135: Text and Data in the Humanities

This course introduces students to key concepts and techniques fundamental to applying digital methods to the study of textual materials and other types of data in humanities subjects. The core topics covered are digital representations of data, ways of structuring and managing data, extracting data from textual materials, and data visualization and analysis. Concepts introduced in lecture sessions will be reinforced and applied concretely in particular contexts during corresponding practical sessions and take-home assignments.

No background in digital methods is assumed, however students are expected to have basic computing skills and access to a suitable laptop. Examples will be selected from a variety of subject domains within the humanities with the primary focus being on textual materials.

Schedule

Week 1 (Jan 28, 30) – Introduction and motivation

  • Data and digital techniques in the humanities
  • Examples of data-driven approaches in humanities scholarship

Week 2 (Feb 4, 6) – Representation I

  • Fundamentals of digital representation of information
  • Basic types of data and their digital representations

Week 3 (Feb 11, 13) – Data and ontologies I

Week 4 (Feb 20) – Representation II

  • Research data management

Week 5 (Feb 25, 27) – Data and ontologies II

  • Databases and structured data

Week 6 (Mar 4, 6) – Data and ontologies III

  • Linked Open Data in the humanities

Week 7 (Mar 11, 13) – From text to data I

Week 8 (Mar 18, 20) – Visualization I

  • Charts and diagrams

Week 9 (Mar 25, 27) – Visualization II

  • Graphs, maps, and trees

Week 10 (Apr 1, 3) – From text to data II

  • Topic modeling

Week 11 (Apr 8, 10) – From text to data III

  • Part of speech tagging and parsing of natural languages

Week 12 (Apr 15, 17) – From text to data IV

  • Markup and annotation systems

Week 13 (Apr 22, 24) – Review

  • Review and discussion of project work

Week 14 (Apr 29, May 1) – Project presentations

  • Student projects presented in class

Posted in Courses, Digital Humanities | Comments Off

Networks of Text Reuse in Early Chinese Literature


Poster presented at Connected Past 2018.

Abstract

The phenomenon of text reuse – syntactically and semantically similar fragments of text repeated apparently independently in multiple pieces of writing, and often in works purporting to be composed by entirely different authors – is extremely widespread in early Chinese literature. Such reuse is typically unattributed, and its existence is often revealed only through painstaking comparison with other pieces of potentially related writing. Computational methods have for the first time made feasible the comprehensive identification of such reuse throughout large corpora of material, and have thus made practical studies based on patterns of reuse which emerge at much larger scales than had previously been possible to consider.

This work uses network analysis to investigate patterns of text reuse in the early Chinese corpus and the relationship between these patterns and difficult questions of authorship attribution within these texts. Using detailed data on individual instances of text reuse created through an exhaustive automated study of the entire transmitted corpus of Chinese from the earliest transmitted works through to those dating prior to the end of the Han dynasty (220 AD), this study demonstrates the utility of network visualization and analysis in identifying and exploring patterns of text reuse which shed light on the authorship of these early materials.

Posted in Chinese, Digital Humanities, Talks and conference papers | Comments Off

Accessible digital text analysis for classical Chinese

Paper presented at Future Philologies: Digital Directions in Ancient World Text, Institute for the Study of the Ancient World, New York University, April 20 2018.

Abstract

Despite a growing interest in digital humanities as a field of study and focus of specialization, significant barriers to the adoption of digital techniques remain within research and teaching in practice in many humanities disciplines. While an increasing number of humanities scholars have demonstrated willingness to invest time and effort in cultivating necessary technical skills, in practice many more are prevented from experimenting with digital methods due to perceived high barriers to entry. One approach to accelerate the adoption of digital techniques is to attempt to reduce the prerequisite technical skills required to apply techniques to research data in practice through the creation of platforms and tools able to bridge technical gaps for some of the most powerful and generally applicable use cases.

With this goal in mind, this talk introduces a suite of browser-based text analysis tools designed for pre-modern Chinese materials and intended to easily integrate into scholarly workflows, including in particular those common in Chinese literature, philosophy, and history departments. Major goals include accessibility of the tools themselves, as well as transparency of their working and ability to introspect the mechanisms underwriting the results and visualizations produced. By enabling rapid exploration of arbitrarily chosen textual materials while also providing insight into the algorithms used, these tools have pedagogical applications in addition to research uses, and are already in use teaching at several institutions.

Posted in Chinese, Digital Humanities, Talks and conference papers | Comments Off

Cyberinfrastructure for historical China studies

It was a pleasure to host on behalf of the Chinese Text Project (ctext.org), together with Professor Peter Bol on behalf of the China Biographical Database (CBDB), the International conference on cyberinfrastructure for historical China studies, held at the Harvard China Center in Shanghai, March 14-16, 2018.

The full program and additional information is available on ctext.org; the slides I used during the conference are also available for download below:

Cyberinfrastructure
[English]

中国哲学书电子化计划 / Chinese Text Project
[English] [Chinese]

文本分析工具 / Text Tools
[English] [Chinese]

线上数据库的可扩展数据分享 / Scalable data sharing for online database systems
[English] [Chinese]

Posted in Chinese, Digital Humanities, Talks and conference papers | Comments Off

ctext.org入门教程

此教程将会从使用者的角度简单介绍中国哲学书电子化计划资料库和数位图书馆中的主要操作方法,并举具体的操作实例以便示范系统的主要功能。

教程网址:
英文:https://dsturgeon.net/ctext
中文:https://dsturgeon.net/ctext-zhs
日文:https://dsturgeon.net/ctext-ja

首次使用前的设置

  • 建立帐户:在左手栏目中,往下卷动并点击“登入”,然后在“若尚未建立本站的帐户”的表格中输入您的资料,再点“建立帐户”。
  • 确认电脑字体是否已安装:在左上角点“本站介绍”,再点“字体试验页”。

书目查询

  • 使用左手栏目中的“书名检索”功能。
  • 检索结果中,“”图标表示该文献的内容可以直接连接到对应的扫描影印资料。
  • 此外,检索结果中可能会看到以下图标:
    文字版存放于原典资料库(使用者不能直接编辑)。
    可以编辑的文字版,此文字版本是人工输入的而不是OCR结果。
    可以编辑的文字版,此文字版本是OCR结果。
    版本的影印扫描资料。
  • 习题:
    • 找出《资暇集》的电子全文。
    • 在原典数据库中找出先秦两汉时代的一部经典(如:《庄子》、《荀子》等)。

全文检索

  • 首先找出并打开想要检索的文字版翻译(章节或是卷),点击 左手栏目下部的“检索” 框。
  • 习题:
    • 找出《论语》中带有孔子所说“君子不器”的段落。
    • 找出《庄子》中所有有提到“道”的段落。
  • 当你在文本资料库中检索本文得出多个结果时,可以点击页面右上部的“显示统计”链接,打开检索结果的互动摘要。

在主要的扫描资料中找出文本

  • 在ctext中,可以通过影印底本连结来检索影印资料。当文字版中带有影印连结时,书名检索结果中会显示“”的图标。
  • 当文本跟扫描档案有链接时,点击左方文本中任何一个段落的“”图标,打开对应的扫面版本。
  • 当你要在扫面文本中检索特定的单词或是片语,在文字版中检索对应的单词或是片语,点击左方结果中的“”图标。
  • 文字版中出现的错误(特别在OCR得出的文字版中)表示片语越长越不一致。如遇到这个情况,试图检索短一点的片语或是想要检索的文本附近出现的单词。
  • 习题:
    • 找出有扫描版链接的文本,检索并检视扫面版中的结果。
    • 在OCR得出的文字版中重复一次。
    • 你也可以从“图书馆”中找出扫描文本,这个检索跟你检索文字版链接会有完全一致的结果。
    • 或者,你也可以使用链接来读出每一页的扫描本。

找出与文本片语相似的文本

可以在先秦两汉以及类书中的文本资料库使用

  • 找出文本片语,点击“”图标,打开相似段落的概要。
  • 在结果一栏中,点击标题附近的“”图标,显示每一个结果和它出现的文脉。
  • 习题:
    • 找出与《庄子》中“庖丁解牛”故事相似的段落。

找出两段特定文本中的相似段落

可以在先秦两汉以及类书中的文本资料库使用

  • 点击左边一栏下部的“高级检索”链接。
  • 在“1. 检索范围”部分中,选择第一个种类,文本或是你想要检索的文本单位。例如,在《庄子》中检索时,你可以选择“先秦和汉”,再选“道家”,再选“庄子” (第四个框中保持“[全部]”)。
  • 在“3. 检索条件”部分中,打钩“相似段落搜索”下面的框,然后以同样的方法设定本文范围(范围亦可为文本类型、文本整体或文本部分)。
  • 点击“Search”。结果会显示所有包含相似段落的文本。
  • 习题:
    • 找出《论语》和“道家”类文献中所有相似段落。
    • 当你有结果时,点击“显示统计”的链接。
    • 做同样的检索,这一次逆转“检索范围” 和“检索条件”,然后使用“显示统计”。

以索引、引得编号检索

适用于有索引、引得讯息的文本

  • 首先打开文本的页面。页面右手方有一个搜索框,对应着每一种支持文本的索引、引得编号。
  • 习题:
    • 在Eric Hutton的这篇论文中,作者使用了ICS系列和哈弗燕京系列中的索引、引得编号来表示文本的引用处,因而没有直接引用中文文本,例如:


      使用索引、引得编号来找出上面所出《荀子》中对应脚注17的作者翻译和相关资料的原档中文。

找出文本中对应的索引、引得编号

适用于有索引、引得讯息的文本

  • 在带有索引、引得数据的段落左手边点击“”图标。
  • 在段落上移动鼠标会显示所有对应到鼠标位置的索引、引得编号。
  • 如欲显示与段落中特定一段的索引、引得编号时,使用鼠标点击并将其移动到加亮为绿色的文本。所有与加亮文本有交叉的索引、引得编号会随之显示出来。
  • 习题:
    • 接着以上习题,找出对应于《荀子》中“人之性恶,其善者伪也。”这一段的索引、引得编号。

文本、翻译平行检视

对应带有英文翻译的文本。

  • 一般来说,当检视带有翻译的文本时,紧接着中文的一个段落(可能很长),会显示英语段落。如想让文本和翻译更接近地显示(通常是一句一句),点击文本片语左方的“”图标。使用者也可以移动鼠标指针到中文文本来显示字典信息。
  • 如所检视的段落较长时,使用者可以先检索中文句子,再点击“”图标如上,直接跳到对应特定中文文本的翻译。
  • 习题:
    • 使用《庄子》的文本来做实验。
    • 用这个功能检视James Legge如何在同一个文本中翻译“每至于族,吾见其难为,怵然为戒,视为止,行为迟”。

显示注释

对应于部分文本,例如《论语》、《孟子》、《墨子》、《道德经》等

  • 点击文本左方的“”图标。请注意,注释本身也是独立的文本,所以你可以点所显示的注释中的链接转到注释文本。
  • 习题:
    • 使用《论语》、《孟子》、《墨子》或是《道德经》做实验。

找出或输入罕见、异体字

  • 打开网站中“字典”的部分。
  • 根据所欲输入的字的情况可用以可以选择:
    • 直接输入(打字)
    • 结构查询:请参阅字典主页上的简要,
    • 部首查询:先选择部首,然后按照附加笔画查看。你可以通过点击“n strokes”标记来加大显示中的文字。
  • 习题:
    • 䊫, 𥼺, 𧤴, …:在ctext.org的字典中检索这些字(要使用上述说明的方法,不要直接从这个页面复制粘贴)。
  • 小贴士:如果两种组成部分都不容易输入的话,你可以输入包含其成分的任何其他字,通过分解,你可以找出成分,然后可以找出包含有那个特定成分的其他字。
  • ctext上的某些文本中有统一码中不存在的汉字。这些汉字目前只能通过成分来检索。
    • 你可以为了在ctext中使用,复制和粘贴在统一码中不存在的汉字。当统一码中不存在的汉字被复制时,将会变成“ctext:nnnn”识别符号(例如,ctext:1591)。在其他软件中粘贴这类字时(例如,在Word等软体),会粘贴识别符号,而不是字或是图像。
    • 然而,您可以在ctext中点击字体的右方并选择“复制图像”来复制字的图像。这个可以粘贴在Word文档(例如,通过参照“ctext:nnnn”识别符号或是提供网站链接)
    • 例子:ctext:4543 ctext:8668 ctext:3000 ctext:335

文本编辑

最有效编辑具有扫描版本的文本方式是通过简单修改功能。请参阅以下步骤:

  • 找出扫描版中出现传写错误的扫描页面。
  • 点击“简单修改模式”链接。
  • 系统会显示可直接编辑文字内容的输入方块。一般来说,每一行文字对应着扫描图像中的每一栏文字。
  • 细心修正文本保持与扫描版一致,结束后点击“保存编辑”。
  • 如果需要输入空格,请务必使用全角中文空格,而不是英文的半角空格。
  • 习题:
    • 选择一件透过OCR打造的文本资料,纠正其错误。
  • 详细纪录文本中每一次的修改并提供换回到更早版本的方法,是任何一种维基系统的基础–即所谓的“版本控制”。当您保存了修改之后:
    • 点击“文字版” 链接来打开您修改的文本全文
    • 往上卷动,点击“查看历史”来显示最近的历史纪录,您最近的修改会显示在最上边。
    • 每一行代表着一次修改之后的文本状态。可以通过在表的左方选择两种单选按钮,并点击“显示相差”来比较文本在两个时刻的状态。默认选择会比较文本当前状态和最新修改前的版本。点击“显示相差”来视觉化您刚刚做过的修改。

安装和使用插件

插件可用以扩展让网站的使用介面来支持新的功能。最常用的实例包括下载文本资料,连接到第三方提供的字典、工具等。为了使用插件,您必须先安装插件到您的帐户中(每一件插件只需做一次)。安装步骤如下:

  • 打开“本站介绍” > “工具” > “插件”。
  • 找出您想要安装的插件,点击“安装”。
  • 在确认页面中再点击“安装”。

安装插件之后,当您打开任何在ctext.org支持的对象时(例如, “book” 或是 “chapter”插件对应的是文本章节,“character”和“word”类插件对应的是字典中的汉字或中文单词),对应的链接会显示在屏幕上方附近的一栏中。
习题:

  • 安装“全文输出”插件并使用它输出文本的一章内容。
  • 安装“Frequencies”插件并使用它检视文本章节中出现的汉字的频率。
  • 安装任何一个带有“character” 或是“word”类的插件,在字典中找一个字,使用插件进入外部字典。

进阶主题

以下将介绍比较进阶的主题,这一些需要额外的努力以及(或是)超过这个教程范围的附加专业技能。

创造新的插件

插件是为了把ctext.org的使用介面和外部资料(通常是其他网站)相链接的XML编码。用户可以通过自己的ctext.org帐户来修改已存在的插件编码来创造新的插件。如要检视或修改当前所安装插件的内容,点击左边栏目中的“个人设定”,然后点击“直接修改个人插件XML档案”链接。

您可以通过复制“<Plugin>…</Plugin>”代码中的编码,以及修改复制内容来创造新的插件。您需要从新的插件中移除“”代码,不然,所输入的内容将来会被旧插件的新版自动取代。您也可以创造独立的XML文档(参阅多数已有的例子),存放到您的服务器,然后安装到您的ctext.org帐户。

如果您创建的新插件或是代码不被ctext介面接受的话,您可以使用W3C Markup Validator来确认您的插件文档是否有效。一个有效的插件会有绿色的字体写上“This document was successfully checked as CTPPlugin!”,看起来是这样的页面

程序存取

为了文本采矿和数字人文研究,网站中的文本资料可以直接通过Python等程序语言来存取。这需要一些额外的设置和时间来实行(特别对于没有程序经验的用户),不过网路上也有供详细的介绍

程序存取是通过ctext.org的应用程式介面(API)来实现的,您可以通过任何能够发送HTTP请求的程式语言或环境实行。本网特别推荐Python,因为您可以通过已有的ctext Python module使用API,这样可以降低程式开发上所需的时间。除了API的使用说明以外,您可以参考包括具体实例的API函数列单

Creative Commons License
Posted in Uncategorized | Comments Off

ctext.org入門教程

此教程將會從使用者的角度簡單介紹中國哲學書電子化計劃資料庫和數位圖書館中的主要操作方法,並舉具體的操作實例以便示範系統的主要功能。

教程網址:
英文:https://dsturgeon.net/ctext
中文:https://dsturgeon.net/ctext-zh
日文:https://dsturgeon.net/ctext-ja

首次使用前的設置

  • 建立帳戶:在左手欄目中,往下捲動並點擊“登入”,然後在“若尚未建立本站的帳戶”的表格中輸入您的資料,再點“建立帳戶”。
  • 確認電腦字體是否已安裝:在左上角點“本站介紹”,再點“字體試驗頁”。

書目查詢

  • 使用左手欄目中的“書名檢索”功能。
  • 檢索結果中,“”圖標表示該文獻的內容可以直接連接到對應的掃描影印資料。
  • 此外,檢索結果中可能會看到以下圖標:
    文字版存放於原典資料庫(使用者不能直接編輯)。
    可以編輯的文字版,此文字版本是人工輸入的而不是OCR結果。
    可以編輯的文字版,此文字版本是OCR結果。
    版本的影印掃描資料。
  • 習題:
    • 找出《資暇集》的電子全文。
    • 在原典數據庫中找出先秦兩漢時代的一部經典(如:《莊子》、《荀子》等)。

全文檢索

  • 首先找出并打開想要檢索的文字版翻譯(章節或是卷),點擊 左手欄目下部的“檢索” 框。
  • 習題:
    • 找出《論語》中帶有孔子所說“君子不器”的段落。
    • 找出《莊子》中所有有提到“道”的段落。
  • 當你在文本資料庫中檢索本文得出多個結果時,可以點擊頁面右上部的“顯示統計”鏈接,打開檢索結果的互動摘要。

在主要的掃描資料中找出文本

  • 在ctext中,可以通過影印底本連結來檢索影印資料。當文字版中帶有影印連結時,書名檢索結果中會顯示“”的圖標。
  • 當文本跟掃描檔案有鏈接時,點擊左方文本中任何一個段落的“”圖標,打開對應的掃面版本。
  • 當你要在掃面文本中檢索特定的單詞或是片語,在文字版中檢索對應的單詞或是片語,點擊左方結果中的“”圖標。
  • 文字版中出現的錯誤(特別在OCR得出的文字版中)表示片語越長越不一致。如遇到這個情況,試圖檢索短一點的片語或是想要檢索的文本附近出現的單詞。
  • 習題:
    • 找出有掃描版鏈接的文本,檢索并檢視掃面版中的結果。
    • 在OCR得出的文字版中重複一次。
    • 你也可以從“圖書館”中找出掃描文本,這個檢索跟你檢索文字版鏈接會有完全一致的結果。
    • 或者,你也可以使用鏈接來讀出每一頁的掃描本。

找出與文本片語相似的文本

可以在先秦兩漢以及類書中的文本資料庫使用

  • 找出文本片語,點擊“”圖標,打開相似段落的概要。
  • 在結果一欄中,點擊標題附近的“”圖標,顯示每一個結果和它出現的文脈。
  • 習題:
    • 找出與《莊子》中“庖丁解牛”故事相似的段落。

找出兩段特定文本中的相似段落

可以在先秦兩漢以及類書中的文本資料庫使用

  • 點擊左邊一欄下部的“高級檢索”鏈接。
  • 在“1. 檢索範圍”部分中,選擇第一個種類,文本或是你想要檢索的文本單位。例如,在《莊子》中檢索時,你可以選擇“先秦和漢”,再選“道家”,再選“莊子” (第四個框中保持“[全部]”)。
  • 在“3. 檢索條件”部分中,打鉤“相似段落搜索”下面的框,然後以同樣的方法設定本文範圍(範圍亦可為文本類型、文本整體或文本部分)。
  • 點擊“Search”。結果會顯示所有包含相似段落的文本。
  • 習題:
    • 找出《論語》和“道家”類文獻中所有相似段落。
    • 當你有結果時,點擊“顯示統計”的鏈接。
    • 做同樣的檢索,這一次逆轉“檢索範圍” 和“檢索條件”,然後使用“顯示統計”。

以索引、引得編號檢索

適用於有索引、引得訊息的文本

  • 首先打開文本的頁面。頁面右手方有一個搜索框,對應著每一種支持文本的索引、引得編號。
  • 習題:
    • 在Eric Hutton的這篇論文中,作者使用了ICS系列和哈弗燕京系列中的索引、引得編號來表示文本的引用處,因而沒有直接引用中文文本,例如:


      使用索引、引得編號來找出上面所出《荀子》中對應腳註17的作者翻譯和相關資料的原檔中文。

找出文本中對應的索引、引得編號

適用於有索引、引得訊息的文本

  • 在帶有索引、引得數據的段落左手邊點擊“”圖標。
  • 在段落上移動鼠標會顯示所有對應到鼠標位置的索引、引得編號。
  • 如欲顯示與段落中特定一段的索引、引得編號時,使用鼠標點擊并將其移動到加亮為綠色的文本。所有與加亮文本有交叉的索引、引得編號會隨之顯示出來。
  • 習題:
    • 接著以上習題,找出對應於《荀子》中“人之性惡,其善者偽也。”這一段的索引、引得編號。

文本、翻譯平行檢視

對應帶有英文翻譯的文本。

  • 一般來說,當檢視帶有翻譯的文本時,緊接著中文的一個段落(可能很長),會顯示英語段落。如想讓文本和翻譯更接近地顯示(通常是一句一句),點擊文本片語左方的“”圖標。使用者也可以移動鼠標指針到中文文本來顯示字典信息。
  • 如所檢視的段落較長時,使用者可以先檢索中文句子,再點擊“”圖標如上,直接跳到對應特定中文文本的翻譯。
  • 習題:
    • 使用《莊子》的文本來做實驗。
    • 用這個功能檢視James Legge如何在同一個文本中翻譯“每至於族,吾見其難為,怵然為戒,視為止,行為遲”。

顯示注釋

對應於部分文本,例如《論語》、《孟子》、《墨子》、《道德經》等

  • 點擊文本左方的“”圖標。請注意,注釋本身也是獨立的文本,所以你可以點所顯示的注釋中的鏈接轉到注釋文本。
  • 習題:
    • 使用《論語》、《孟子》、《墨子》或是《道德經》做實驗。

找出或輸入罕見、異體字

  • 打開網站中“字典”的部分。
  • 根據所欲輸入的字的情況可用以可以選擇:
    • 直接輸入(打字)
    • 結構查詢:請參閱字典主頁上的簡要,
    • 部首查詢:先選擇部首,然後按照附加筆畫查看。你可以通過點擊“n strokes”標記來加大顯示中的文字。
  • 習題:
    • 䊫, 𥼺, 𧤴, …:在ctext.org的字典中檢索這些字(要使用上述說明的方法,不要直接從這個頁面複製粘貼)。
  • 小貼士:如果兩種組成部分都不容易輸入的話,你可以輸入包含其成分的任何其他字,通過分解,你可以找出成分,然後可以找出包含有那個特定成分的其他字。
  • ctext上的某些文本中有統一碼中不存在的漢字。這些漢字目前只能通過成分來檢索。
    • 你可以為了在ctext中使用,複製和粘貼在統一碼中不存在的漢字。當統一碼中不存在的漢字被複製時,將會變成“ctext:nnnn”識別符號(例如,ctext:1591)。在其他軟件中粘貼這類字時(例如,在Word等軟體),會粘貼識別符號,而不是字或是圖像。
    • 然而,您可以在ctext中點擊字體的右方並選擇“複製圖像”來複製字的圖像。這個可以粘貼在Word文檔(例如,通過參照“ctext:nnnn”識別符號或是提供網站鏈接)
    • 例子:ctext:4543 ctext:8668 ctext:3000 ctext:335

文本編輯

最有效編輯具有掃描版本的文本方式是通過簡單修改功能。請參閱以下步驟:

  • 找出掃描版中出現傳寫錯誤的掃描頁面。
  • 點擊“簡單修改模式”鏈接。
  • 系統會顯示可直接編輯文字內容的輸入方塊。一般來說,每一行文字對應著掃描圖像中的每一欄文字。
  • 細心修正文本保持與掃描版一致,結束後點擊“保存編輯”。
  • 如果需要輸入空格,請務必使用全角中文空格,而不是英文的半角空格。
  • 習題:
    • 選擇一件透過OCR打造的文本資料,糾正其錯誤。
  • 詳細紀錄文本中每一次的修改並提供換回到更早版本的方法,是任何一種維基系統的基礎–即所謂的“版本控制”。當您保存了修改之後:
    • 點擊“文字版” 鏈接來打開您修改的文本全文
    • 往上捲動,點擊“查看歷史”來顯示最近的歷史紀錄,您最近的修改會顯示在最上邊。
    • 每一行代表著一次修改之後的文本狀態。可以通過在表的左方選擇兩種單選按鈕,並點擊“顯示相差”來比較文本在兩個時刻的狀態。默認選擇會比較文本當前狀態和最新修改前的版本。點擊“顯示相差”來視覺化您剛剛做過的修改。

安裝和使用插件

插件可用以擴展讓網站的使用介面來支持新的功能。最常用的實例包括下載文本資料,連接到第三方提供的字典、工具等。為了使用插件,您必須先安裝插件到您的帳戶中(每一件插件只需做一次)。安裝步驟如下:

  • 打開“本站介紹” > “工具” > “插件”。
  • 找出您想要安裝的插件,點擊“安裝”。
  • 在確認頁面中再點擊“安裝”。

安裝插件之後,當您打開任何在ctext.org支持的對象時(例如, “book” 或是 “chapter”插件對應的是文本章節,“character”和“word”類插件對應的是字典中的漢字或中文單詞),對應的鏈接會顯示在屏幕上方附近的一欄中。
習題:

  • 安裝“全文輸出”插件並使用它輸出文本的一章內容。
  • 安裝“Frequencies”插件並使用它檢視文本章節中出現的漢字的頻率。
  • 安裝任何一個帶有“character” 或是“word”類的插件,在字典中找一個字,使用插件進入外部字典。

進階主題

以下將介紹比較進階的主題,這一些需要額外的努力以及(或是)超過這個教程範圍的附加專業技能。

創造新的插件

插件是為了把ctext.org的使用介面和外部資料(通常是其他網站)相鏈接的XML編碼。用戶可以通過自己的ctext.org帳戶來修改已存在的插件編碼來創造新的插件。如要檢視或修改當前所安裝插件的內容,點擊左邊欄目中的“個人設定”,然後點擊“直接修改個人插件XML檔案”鏈接。

您可以通過複製“<Plugin>…</Plugin>”代碼中的編碼,以及修改複製內容來創造新的插件。您需要從新的插件中移除“”代碼,不然,所輸入的內容將來會被舊插件的新版自動取代。您也可以創造獨立的XML文檔(參閱多數已有的例子),存放到您的服務器,然後安裝到您的ctext.org帳戶。

如果您創建的新插件或是代碼不被ctext介面接受的話,您可以使用W3C Markup Validator來確認您的插件文檔是否有效。一個有效的插件會有綠色的字體寫上“This document was successfully checked as CTPPlugin!”,看起來是這樣的頁面

程序存取

為了文本採礦和數字人文研究,網站中的文本資料可以直接通過Python等程序語言來存取。這需要一些額外的設置和時間來實行(特別對於沒有程序經驗的用戶),不過網路上也有供詳細的介紹

程序存取是通過ctext.org的應用程式介面(API)來實現的,您可以通過任何能夠發送HTTP請求的程式語言或環境實行。本網特別推薦Python,因為您可以通過已有的ctext Python module使用API,這樣可以降低程式開發上所需的時間。除了API的使用說明以外,您可以參考包括具體實例的API函數列單

Creative Commons License
Posted in Chinese, Digital Humanities | Comments Off